Tilgangen til Claude Fable stanset

Det er mye snakk om digital autonomi og digital suverenitet for tiden. Hvordan er det å ikke ha  til å ha tilgang til den digitale infrastrukturen og de digitale tjenestene man ønsker og trenger? Eller vite at noen andre kan ta denne friheten og handlingsrommet bort uten at du kan gjøre noe med det? De siste dagene har vi fått en viktig opplæring i hvordan dette ser ut i virkeligheten. 

KI i hurtigtogsfart

Tjenesten det er snakk om nå er en kunstig intelligens språkmodell som heter Claude Fable 5 og leveres av selskapet Anthropic. Den som har besluttet at vi ikke skal ha tilgang lenger er USAs regjering, med eksportkontroll som regulatorisk virkemiddel. I praksis rammer dette tiltaket også amerikanske bedrifter og offentige insitusjoner, jeg kommer tilbake til det, men hovedpoenget her er at vi nektes tilgang til viktige digitale tjenester vi bruker i Europa og Norge på grunn av en myndighetsbeslutning i USA. 

Litt bakteppe før jeg kommer tilbake til denne konkrete saken med tilgang til KI-tjenester fra Anthropic: "Stacken" vi trenger tilgang til for å fungere digitalt er sammensatt av mange ulike ting. Alt fra tilgang til maskinvare og komponenter, kraftforsyning, kommunikasjonsnettverk, datasentre og skytjenester, til programvare og tjenester, og i økende grad kunstig intelligens. Innenfor flere av disse lagene er det grunner til å være bekymret, men problemene er ulike og svarene på dem er også litt ulike.

Den siste tiden har manglende autonomi når det gjelder kunstig intelligens seilt opp som en viktig bekymring, og da handler det særlig om de store KI-modellene som brukes globalt, og som det investeres millarder i å forske fram og lære opp. Nye og bedre modeller lanseres hypping, gjerne med bare noen ukers mellomrom. Og det er særlig Anthropic (Claude), Open AI (Chat GPT) og Google (Gemini) som driver dette kappløpet fremover.

Kinesiske KI-selskaper prøver så godt de kan å holde følge, og har hatt en hel del suksess med sine "åpne" KI-modeller som kan kjøres lokalt på dine egne datamaskiner eller servere, og ikke er bundet til de store plattformenes datasentre og infrastruktur. Europa har ikke klart å melde seg ordenlig på i kampen om dette digitale lederskapet, og er i praksis blitt helt avhengig av de amerikanske selskapene når det gjelder både hardware og og KI-språkmodeller.

Claude Fable 5

Denne sterke avhengigheten av andre er ikke bra selv i normale tider, men med Trump som president i USA er det blitt overtydelig hvor sårbare andre land er, men også hvor sårbare amerikanske selskaper, er blitt. Alle som sier eller gjør noe USAs president ikke vil høre risikerer å få innført en ny toll eller underlagt eksportkontroll som avskjærer dem fra å få tak i produkter og tjenester i det hele tatt. 

Akkurat hvor sårbare vi er blitt har vi fått demonstrert de siste dagene. 9. juni lanserte Anthropic verdens til nå mest avanserte KI-modell, Claude Fable. Pressemeldingen fra Anthropic er her. Allerede forrige fredag, 12. juni sendte Anthropic ut en ny pressemelding om at de var blitt tvunget til trekke Claude Fable fra markedet igjen på grunn av et pålegg fra regjeringen i USA. Der skrev de at:

"The US government, citing national security authorities, has issued an export control directive to suspend all access to Fable 5 and Mythos 5 by any foreign national, whether inside or outside the United States, including foreign national Anthropic employees. The net effect of this order is that we must abruptly disable Fable 5 and Mythos 5 for all our customers to ensure compliance. Access to all other Anthropic models will not be affected. We received the directive from the government today at 5:21pm (ET). The letter did not provide specific details of its national security concern."

Nå var ikke stemningen den beste mellom Anthropic og Donald Trump før denne beslutningen heller. Anthropic har ved flere anledninger vært uenige om USAs og Pentagons tilbakeholdne linje når det gjelder regulering av KI og sikkerhet rundt KI. Dette har ikke bare ført til en ordkrig, men også at Anthropics tilbakeholdenhet og ønske om å gjøre egne etiske vurderinger, paradoksalt nok er blitt beskrevet som en sikkerhetsriko. Det har gjort at de er kastet ut av Pentagon og og blitt tvunget ut av myndighetskontrakter. Den siste tiden er dette blitt enda mer paradoksalt fordi nettopp Anthropic har utviklet de mest avanserte verktøyene for å avdekke digitale sårbarheter og sikkerhtstrusler, og delt denne kunnskapen med både USAs myndigheter og store selskaper.

Trump skyter seg selv i foten

Takken for å være ledende i verden, og samtidig advare mot for svak myndighetsregulering, kom i slutten av forrige uke da de ble fratatt muligheten til å tilby kundene sin mest avanserte KI-modell, Claude Fable 5, etter bare tre dager. Noen av oss rakk å teste den og finne ut på den korte tiden at den er enda bedre enn det vi har sett før. Benchmarkingen mot andre modeller viste det samme. Forhåpentligvis får vi snart bruke den igjen snart, og KI verdenen vil uansett bevege seg videre, men i disse tider er det ikke godt å si hva som kommer av innfall og utfall.

At Anthropic taper på Trump-regiments vilkårlighet er det ikke noen tvil om, og denne gangen kom smellen akkurat når de skal hente milliarder i investorpenger til en børsnotering. Men det er også interessant å reflektere litt over hvem som blir tapere i denne konflikten. The Economist skriver i en god artikkel om "Donald Trump’s blocking of Anthropic is capricious and chaotic", at:

"It was not immediately clear on what legal grounds the government imposed the suspension. Anthropic said the models were hit by an export-control directive. Charlie Bullock, of the Institute for Law & AI, a think-tank, speculates that the government used the Commerce Department’s Export Administration Regulations, which are also used to restrict sales of AI chips to China.

But the government’s primary aim may not have been to control foreign access to frontier models. Instead, it appears to have used export controls as a convenient way to target Anthropic. If so, foreigners may be collateral damage in a power struggle between the Trump administration and a leading model-builder that President Donald Trump once described as an “out-of-control Radical Left AI company”.

Europeisk autonomi 

Uansett hva utfallet av denne konflikten blir på kort sikt, er det ingen tvil om at den vil sette fart i EUs og europeiske lands behov for økt digital autonomi og handlefrihet, uten å risikere å bli innelåst i digitale tjenester man plutselig kan miste tilgangen til. Det samme gjelder Canada, Australia og andre land som i normale tider er blant USAs nærmeste allierte. Men slik er det dessverre ikke nå, og tapte av tilgang til Claude Fable viser at det ikke bare er en teoretisk mulighet at Europa mister tilgang til helt nødvendige tjenester og kanskje til egne samfunnskritiske data. Det er åpenbart en type skade Donald Trump og Pete Hegseth er helt villige til å utsette andre land for. 

The Economist skriver samme artikkel at:

"America’s allies are now reeling again. Many had spent months securing access to Mythos for government departments, banks and companies. Those permissions evaporated overnight. The cut-off exempts no one, not even America’s partners in the Five Eyes intelligence alliance: Australia, Britain, Canada and New Zealand. Those countries are already grappling with the lapse of key surveillance powers that Congress recently failed to renew. Losing access to Mythos puts them in the same boat as Russia, China or Iran." 

En annen god artikkel om hva dette vil kunne utløse av reaksjoner både fra amerikansk næringsliv og fra europeiske politikere er i The Atlantic, med overskriften "The White House Is Ratcheting Up Its War Against Anthropic - This is how America loses the AI race."  

"The Trump administration has repeatedly evinced that it can and will instantly bar any person or business from using any AI model for any period of time. A technology that is advancing rapidly and could have catastrophic impacts “is exactly the situation in which you need to give the executive an enormous amount of discretion,” Rozenshtein said. Yet at the same time, he said, Trump’s tendency to change his mind on a whim and play favorites is “exactly the reason why you don’t want to give the executive enormous amounts of discretion.” To say the least, it’s perilous to build a product, invest in a company, or even just try to leverage AI for productivity gains in an environment in which the government might at any time take a wrecking ball to your plans. America and its tech companies have many factors in their favor when it comes to leading the way in AI development. As of now, the White House is not one of them."

Det sier seg selv om et Europa og et EU som uansett er bekymret for USAs utvikling, og også bekymret for at man ligger etter når det gjelder både digital innovasjon og digital infrastruktur, vil bruke dette som en anledning til å forsterke planer om å bli mer digitalt selvforsynte og autonome. Frankrike vil invitere andre land til samarbeid om å utvikle Mistral.ai som et regulert og etisk forsvarlig europeisk alternativ, som dessuten bidrar til å sikre europeisk autonomi. Og noen av USAs egne plattformselskaper, inkludert Anthropic vil måtte prøve å vise at de ikke er avhengige av vilkårlige politiske beslutnigner tatt av USAs president og regjering. Det blir ikke lett. Kanskje noen må lokalisere seg andre steder for å vise at de mener alvor?

 USAs selvskading

For paradoksalt nok havner amerikanske bedrifter i samme håpløse situasjon som bedrifter og myndigheter i Europa og andre allierte land, fordi det i de amerikanske KI-selskapene er fullt av utenlandske statsborgere som forsker og utvikler, Og disse skal i følge USAs myndigheter ikke ha tilgang til denne mest avanerte teknologien. Noe som i praksis betyr at ingen ansatte i disse selskapene kan ha tilgang til de mest avanserte KI-modellene, og heller ikke kan drive forskning på dem. Det gjelder også ledende ansatte i Anthropic selv, personer som bor i USA, men som er statsborgere i andre land. 

Den paradoksale situasjonen er at USA akkurat nå er i ferd med å diskutere, og kanskje åpne opp for, eksport av de mest avanserte KI-brikkene til Kina, mens canadiske borgere som bor og jobber i USA ikke får tilgang til amerikanske selskapers egne KI-modeller. The Economist skriver at de nåværende begrensningene på utlendingers bruk av Antropics KI virker veldig lite gjennomtenkt nettopp fordi de særlig vil ramme amerikanske selskaper og USAs konkurransekraft og forskingsinnsats, og åpne døren for konkurrenter andre steder. I hvert fall i Kina, og forhåpentligvsi også i Europa:

"...some observers believe the American government will eventually have to relent. “Allies can perhaps take some comfort in the fact that this is a totally untenable approach to use long term, due to the number of foreigners inside American AI companies,” says Helen Toner of Georgetown University’s Centre for Security and Emerging Technology. “Preventing foreign nationals from accessing the models is essentially equivalent to preventing any company affected from doing any further AI R&D work."

Det virker veldig rart at USAs regjering skal legge seg på en linje som jager kunder og partnere vekk fra produktene til deres egne teknologiselskaper, og åpener døren for kinesiske KI-tjenester, som kanskje er de store vinnerne i denne situasjonen. Det åpener også døren for en enda mer bevisst strategi for økt digital autonomi i Europa. Dagens president i USA har som sagt en utviklet evne til å drive selvskading, og da er det ikke umulig at det er den veien det går.

Kinas KI-sjokk

Nyheter om større og bedre versjoner av språkmodeller og chatbotter har kommet tett som hagl de siste to årene, og det har vært vanskelig å følge med på alt. men den siste uken kom nyheten som virkelig fikk fart i aksjekursen på amerikanske teknologiaksjer. Nedover.  

Nyheten om at den kinesiske AI-selskapet DeepSeek har utviklet en språkmodell som er nesten like bra som de amerikanske kom samtidig som Trump ble insatt som president, og fikk noen til å beskrive det som vårt tids "Sputnik-moment", sjokket da Sovjetunionen i 1957 sendte verdens føste satelitt ut i verdensrommet, før USA. Og DeepSeek er ikke den eneste kinesiske AI-modellen. Det kommer flere.

The Economist hadde en edruelig lederartikkel i helgen om hva dette betyr, der de skriver at:

"Even as Mr Trump was giving his inaugural oration, a Chinese firm released the latest impressive large language model (LLM). Suddenly, America’s lead over China in ai looks smaller than at any time since ChatGPT became famous. China’s catch-up is startling because it had been so far behind—and because America had set out to slow it down.(...) Yet China’s most recent progress is upending the industry and embarrassing American policymakers. The success of the Chinese models, combined with industry-wide changes, could turn the economics of AI on its head. America must prepare for a world in which Chinese AI is breathing down its neck."

Men akkurat hva er det disse industrielle endringene i KI-bransjen The Economist bekriver handler om? Det dreier seg blant annet om forholdet mellom proprietære modeller og modeller med åpen kildekode, der de proprietære riskierer å få sin forretningsmodell undergravd av de som deler progravaren sin. Men enda viktigere handler det om at trening av språkmodeller med høye hardwarekostnader og lave driftskostnader blir snudd på hodet. Det er slett ikke sikkert at DeepSeek vinner denne konkurrransen, men de viser hvordan ting kan gjøres langt billigere enn vi trodde (og billigere enn de store hardwareselskapenes forretningsmodeller krever). The Economist beskriver det slik:

"If good-enough AI models can be trained relatively cheaply, then models will proliferate, especially as many countries are desperate to have their own. And a high cost-per-query may likewise encourage more built-for-purpose models that yield efficient, specialised answers with minimal querying. The other consequence of China’s breakthrough is that America faces asymmetric competition. It is now clear that China will innovate around obstacles such as a lack of the best chips, whether by efficiency gains or by compensating for an absence of high-quality hardware with more quantity."

The Economist følger opp denne høyttenkingen om hvordan Kinas gjennombrudd kan åpne opp for andre forretningsmodeller i en lengre breifing med overskriften "Why Chinese AI has stunned the world". Her beskrives ulike kinesiske KI-initiativer som har vært pågående de siste årene, og hva slags opphav og utvikling DeepSeek har hatt før de brått dukket opp på radaren nå. Artikkelen sammenligner ytelsen til DeepSeek med modeller som OpenAI, Gemini og Llama, de beste amerikanske modellene, og kostnadene for å bruke dem, som er langt lavere for DeepSeek. Jeg tror artikkelen er bak en betalingsmur for de som ikke abonnerer på The Economist. Men en liten smakebit om at det til tross for "DeepSeek-sjokket" ikke er gitt at Kina vil passere USA når det gelder KI-kappløpet:

"This does not necessarily mean that Chinese models will sweep the world. American AI still has capabilities that its Chinese rivals cannot yet match. A research programme from Google hands a user’s web browser over to its Gemini chatbot, raising the prospect of AI “agents” interacting with the web. Chatbots from Anthropic and OpenAI won’t just help you write code, but will run it for you as well. Claude will build and host entire applications. And step-by-step reasoning is not the only way to solve complex problems. Ask the conventional version of ChatGPT the maths question above and it writes a simple program to find the answer. More innovations are in the pipeline, according to Mr Altman, who is expected to announce soon that OpenAI has built “PhD-level super-agents” which are as capable as human experts across a range of intellectual tasks. The competition nipping at American AI’s heels may yet spur it to greater things."

Sjokk kan noen ganger være innovasjonsutløsende, og dermed ganske sunne. Og disruptive innovasjoner som gjør mer eller mindre samme nytten for kunden, men til en langt lavere pris, er teknologihistorien full av ekspler på. Jeg tenker at professor Clayton Christensen ville nikket annerkjennende hvis han fortsatt var blant oss.

Thomas Friedman: Verden er blitt enda flatere

"- The world is flat", skrev Thomas Friedman i 2005. Og slo fast at en flatere og mer globalisert verden, der varer, tjenester og kapital flyter friere, drevet fram av teknologi, internett, globalisering og  grenseoverskridende leverandørkjeder, er en god ting.

Det er en bra ting fordi handel og samarbeid bygger tillit, og dermed sikkerhet. Gjensidig avhengighet hindrer krig og konflikt. Dessuten blir verden rikere fordi en mer utviklet internasjonal arbeidsdeling gjør at kunnskap deles og ressurser utnyttes mer effektivt. Og jeg var veldig enig i alt dette og skrev både mange blogginnlegg og holdt gode  foredrag om hvorfor en flatere verden er så mye bedre enn det motsatte.

Nå skal det sies at ikke alle ville skrive under på at verden er helt flat. Richard Florida skrev for eksempel bøker om at verden var "spiky", eller "humpete" fordi vel er konkurransen global, men den favoriserer de som tilhører den høyt utdannede "kreative klassen" og særlig de som bor der de utdannede og kreative menneskene foretrekker å bo, der de beste universitetene ligger og der bedriftene må være for å trekke til seg folkene de trenger. Bor du der er verden ganske flat.

Alt dette virker veldig lenge siden nå. WTOs liberaliseringer ble stoppet og til dels reversert, Globaliseringen er blitt til handelskonflikter, subsidiekonkurranse og proteksjonistisk retorikk, spesielt fra høyresiden i USA som tidligere var de varmeste tilhengerne av frihandel. Og Kina er heller ikke lenger noen pådriver for friere handel. Nå er frihandelsavtaler og felles markeder noe som i beste fall skjer mellom land innad i regionale blokker, som i EU og i Nord Amerika, mens det mellom disse regionale blokkene bygges høyere hindringer. Verken Francis Fukuyamas "End of History and the last man" fra 1992 eller Thomas Friedmans "The World is Flat" fra 2005 har stått seg som spesielt gode fremtidsprofetier. Og på toppen av det hele har globaliseringsoptimismen og teknologioptimismen fått noe av skylden for denne reverseringen fordi den har bidratt til økt ulikhet og utenforskap.

Men Thomas Friedmans analytiske evner og skarpe penn fungerer i beste velgående fortsatt. Han er fortsatt utenrikskommentator i New York Times og er fortsatt en av de beste når det gjelder å skrive om utenrikspolitikk, enten det er Midt Østen, som han også har dekket som korrespondent, Kina, India, Russland eller Europa. Og Thomas Friedman mener fortsatt at en flatere verden, tross utfordringene, er langt tryggere og bedre enn en verden med fysiske murer, tollmurer eller andre hindringer for menneskelig og økonomisk samhandling. 

Derfor er det interessant å lese Thomas Friedmans analyse av forholdet mellom USA og Kina nå, etter hans første besøk i Kina etter pandemien. Han er opptatt av at Kinas har gjort fantastiske teknologiske og miljømessige fremskritt, men må ta skylden selv for i at andre har fått mindre tillit til landet. Nasjonalistisk egeninteresse har blitt langt mer fremtredende og han beskriver den farlige situasjonen som har blitt verre rundt Taiwan, Men slår også fast at man ikke kan forstå stemningen i et land særlig godt uten å besøke det og snakke med folk som bor der og forstå hva de er mest opptatt av, og hvorfor. Han har snakket med og fått spørsmål fra kinesiske studenter om han fortsatt mener at verden er flat. Og svarer, nokså overraskende for de som spør, at den er flatere enn noen gang, Med en interessant begrunnelse:

"On my first day in Beijing, I had a conversation with a young Chinese woman, a college student. Her first question, alluding to a book I wrote, was: “Mr. Friedman, is the world still flat?” I explained why I thought it was flatter than ever by my definition — that because of steady advances in connectivity and digitization, more people can compete, connect and collaborate on more things for less money from more places than ever. During my time in Beijing, I was struck at how educated Chinese people seem to be more connected, and able to get around digital firewalls, than before. I could see the woman wasn’t totally convinced by my explanation, so we moved on to other subjects. And then she dropped this: “I just used ChatGPT.” I said, “You used ChatGPT from Beijing, and you’re asking me if the world is still flat?”

Indeed, a story making the rounds in Beijing is that many Chinese have begun using ChatGPT to do their ideology homework for the local Communist Party cell, so they don’t have to waste time on it. It’s funny, though — just when you start to worry about the state of J.F.K. Airport, and all the stories in recent years that China was going to bury us in the race to A.I., an American team, OpenAI, comes up with the world’s leading natural language processing tool, which enables any user to have humanlike conversations, ask any question and get deep insights in every major language, including Mandarin."

Det er et interessant perspektiv Thomas Friedman trekker opp. Han hevder vel egentlig at til tross for at stadig flere politikere i verden, med et hederlig unntak for mange i Europa, vil bygge flere handelshindringer og bruke langt mer skattepenger på konkurransehemmende næringslivssubsidier, så sørger elektronikk, programvare, internett, kunstig intelligens og kunnskaps- og datadeling, for at vi samarbeider og samhandler mer enn noen gang likevel. Teknologi som finnes og er tilgjengelig, vil bli brukt og vil bli bygget videre på.

Og Thomas Friedman holder fast på sin gamle tese fra "The World is Flat" om hva som best hindrer krig og konflikt i verden og som han da kalte "The Dell theory of conflict prevention". Den ble definert slik:

"The Dell Theory stipulates: No two countries that are both part of a major global supply chain, like Dell's, will ever fight a war against each other as long as they are both part of the same global supply chain,"

Så vidt jeg husker prøvde han å gjøre et anslag på fra hvor mange leverandører og fra hvor mange land er en vanlig bærbar PC satt sammen av. Og i en helt innvevd verden der vi har tillit til hverandre så er ikke det så helt enkelt å holde oversikt over, noe som byr på problemer den dagen man ikke lenger har tillit og lurer på om alt som er inne i boksene er trygt å bruke. Det er ikke noen lett utfordring for verken næringsliv eller myndigheter å finne den balansen mellom naivitet og paranoia,

Artikkelen til Thomas Friedman der han drøfter maktforholdet mellom USA og Kina, og hva teknologi som Chat GPT forteller om det forholdet heter "America, China and a Crisis of Trust" og er vel verdt å lese i sin helhet.

Nei, en CV fra Chat GPT er ikke å anbefale

Klikk på bildet for hele

For å ta konklusjonen med en gang: Ikke bruk Chat GPT til å lage en biografisk omtale for deg. I hvert fall ikke til noe som skal brukes offentlig til noe annet enn ren underholdning. Og definitivt ikke til å skrive CVen din, for den kommer til å være full av feil. I mitt tilfelle ble den både veldig raus og veldig fantasifull, men dessverre bare unntaksvis helt korrekt.

Nå var ikke planen at jeg skulle bruke Chat GPT til å skrive en biografisk omtale av meg selv heller, men plutselig var den der. Fordi jeg har Chat GPT der som plugin i Google Chrome og hadde googlet meg selv for å finne en gammel nyhetssak, så skred Chat GPT til verket og laget en omtale av meg i full fart i spalten ved siden av google-svarene. 

Eller kanskje ikke av meg? Det med navn er jo litt vanskelig for en kunstig intelligens fordi mange personer kan hete det samme, men i mitt tilfelle er det i hvert fall slik at jeg både har et uvanlig navn og har vært en del omtalt i media og andre steder på internett.

Resultatet ble en veldig raus omtale. Den slår fast at jeg har studert på hele tre ulike høyere utdanningsinstitusjoner (der ingen av dem stemmer), har jobbet i IBM og Telenor (Statoil, Abelia og Halogen ville vært korrekt), har vært norsk ambassadør i UK og har dobbelt statsborgerskap. Ingen av delene stemmer. Og det er litt spesielt at Chat GPT ikke bare slår fast fakta, men også bidrar med skjønnsmessige vurderinger av mine bidrag til å styrke samarbeidet mellom Norge og UK.

Når det gjelder mine politiske roller er det stort sett ikke korrekt det heller, men det er feil på mer interessante måter. Det som jo er korrekt er at jeg har vært statssekretær (Deputy minister) i Ministry of Local Government and Modernisation. Så stemmer det både at jeg har vært stortingsrepresentant og at jeg har vært Høyre-politiker, men ikke samtidig og ikke i den nevnte perioden. Men her er kanskje problemet at min partipolitiske vandring på slutten av 90-tallet er vanskelig for en kunstig intelligens å forstå.

Et annet interessant fenomen jeg også oppdaget, for jeg måtte jo prøve dette igjen og se om resultatet ble det samme. er at du ikke får samme svar to ganger på rad. Og det er jo greit hvis du skal ha hjelp til å skrive en roman eller et filmmanus, men urovekkende hvis det skal handle om CVer eller andre verifiserbare faktaopplysninger. På andre forsøk kunne min biografiske medhjelper blant annet fortelle at jeg er født i London, delvis oppvokst i Nigeria, har ledet Microsoft Norge og har vært statsekretær i Finansdepartementet 2013-17 (feil alt sammen), men med et særlig ansvar for informasjonsteknologi, digitalisering og forvaltingsreformer.