Når en supermakt drar ut kontakten

Jeg skrev for noen dager siden her på bloggen om hvordan USAs regjering har hindret oss i å gå tilgang til Antropics nye kraftige KI-modell Claude Fable 5. De har på en måte nappet ut ledningen vår. Og på den måten gitt hele verden et interessant lynkurs i hva det innebærer å ikke ha digital autonomi.

I utgangspunktet er det eksportkontrollregelverket regjeringen har brukt for å nekte eksport av avansert KI, for USA har ikke noe lovverk for å regulere KI som sådan. Men så er virkeligheten i denne saken enda et hakk mer kompleks fordi USA ikke vil at utlendinger i USA skal ha tilgang til Fable 5 heller, og har tatt det inn i beslutningen. 

Og fordi Anthropic ikke har noen måte å holde oversikt over om deres kunder i USA er utenlandske statsborgere, så har alle i USA også mistet tigang til denne avanserte KI-modellen. Det har også Anthropics utenlandske ansatte, som det er mange av.

Makten over tilgangen til KI

I dette øyeblikket i historien, der konkurransen om å kunne tilby den beste og mest avanserte KI-modellen er knallhard, og verdien for mange bedriftskunder av å kunne tilby tjenester bygget med disse mest avanserte KI-verktøyene kan være avgjørende, så kan slike myndighetsbeslutninger være et vinn-eller-forsvinn. Makten over tilgangen til KI og makten til å nappe vekk muligheten til å utvikle KI-modeller, eller bruke KI-verktøy bygget på disse, er enorm. 

Så er det jo som jeg skrev i det tidligere blogginnlegget slik at det over tid har utviklet seg et veldig betent forhold mellom mellom USAs myndigheter og Anthropic. Denne nye konflikten rundt Claude Fable 5 er også et resultat av det. Men konsekvensene av måten USA har håndtert saken, og de prinsippielle spørsmålene den handler om, har langt videre implikasjoner enn en krangel mellom et selskap og en regjering, også for tilgangen til KI globalt. For hva betyr det i praksis at livsviktige rammebetingelser for teknologibedrifter plutselig nappes vekk? At humørsvingninger hos et lands ledere avgjør om kunder får tilgang til produktet du selger eller ikke? Hva hvis dette blir den nye normalen? Det er ikke bra for USAs teknologibedrifter, men det er minst like skadelig for alle deres kunder verden over.

De globale og maktpolitiske problemstillingene er drøftet i The Economist lederartikkel i helgen. Overskriften på forsiden er "America's AI Power Grab". Lederartikkelen peker på at i en tid der mange er opptatt av at USAs makt i Europa og flere andre steder i verden blir redusert, så er det i hvert fall på et viktig område den ikke blir mindre. Få ting gir mer makt enn å bestemme hvem som får tilgang og hvem som ikke får tilgang til verdens viktigste teknologier. Og, som The Economist skriver, så kommer denne rollen som teknologiens portvokter utstyrt med en rekke problematiske sider, både for USA og for andre land:

"America must decide how to wield this vast new power. The rest of the world must decide what to do about it. Even as it plans for an unreliable America in everything from defence to trade, it now has to cope with a new way of being captive to the world’s biggest economy."

Strategier for løsrivelse 

Nå er naturligvis problemet at andre land ikke vil slå seg til ro med å ikke ha tilgang til de beste og mest avanserte produktene som bare er tilgjengelige i USA. For Europa betyr det at man må finne svarene andre steder, enten ved å utviklke sine egne KI-tjenester til å komme opp på samme nivå, eller ved å bruke kinesisk KI. The Economist skriver om det uholdbare i å være som avhengig av teknologi man ikke vet om man har tilgang til:

"Such a future would be uncomfortable for America’s allies, which are nowhere close to rivalling the likes of Anthropic. They are already vulnerable to Mr Trump’s bargaining on trade, alliances, the dollar system and more. AI could become the most important lever of the lot. True, some of the dependence is two-way: America needs Dutch lithography machines and Taiwanese fabs. And foreigners could always shun Anthropic or OpenAI in favour of good-enough open-weight alternatives.

Yet running models requires computing power, which America has perhaps 15 times more of than Europe, plus much more ongoing investment. If SpaceX, whose share price has surged after listing on June 12th, realises its vision of data centres in space, the gap is unlikely to close.

USA har med andre ord stor makt over andre gjennom sine selsakpers ledende rolle på flere viktige teknologiområder, blant annet KI. Den makten kan brukes klokt eller uklokt. Den kan til og med brukes så uklokt at de i realiteteen dytter selsakper og arbeidsplasser ut, eller åpner døren for at kinesiske språkmodeller tar over plassen, fordi det ikke er tilgang til andre alternativer. 

Internett vs KI

Av og til tenker jeg på likheter og forskjeller mellom dagens KI-utrulling og internett-utullingen i dot.com tiden i årene før 2000, da bedrifer og vanlige innbyggere for første gang kunne få tilgang til innhold, tjenester, nettaviser, nettbanker og nettbutikker, og masse annet fra sin egen PC. Det var veldig stort, og er kanskje blitt enda større og viktigere enn vi kunne forestille oss dengang. Internett var som KI er i dag en muliggjørende infrastruktur for masse annet, også helt nye og innovative tjenester vi ikke vet om i dag. 

Men det er en stor forskjell. Internett er en desentralisert teknologi, utviklet gjennom en slags dugnad, der alle land og selskaper som følger bestemte standarder og spilleregler har tilgang. Det å stenge noen ute er ganske vanskelig og krever at en regjering aktivt hindrer sine innbyggere og bedrifter tilgang. Det det er ikke mulig å stenge andre lands selskaper og innbyggere ute, for da tar dataene en annen vei. Tilgang til skybaserte KI-tjenester som Claude, Chat GPT, Copilot og Gemini er annerledes. Her kan selskapet eller en regjering i landet selskapet holder til bestemme hvem som får og ikke får tilgang. Nå finnes det riktignok noen åpne og nedlastbare KI-modeller som kan kjøres lokalt på egen datamaskin, og denne varianten av KI vil kanksje vokse i omfang, men realiteten i dag er de mest avanserte modellene bor i noen ytterst få selskapers datasentre. 

En enorm konsentrasjon av makt, med andre ord, og en stor sårbarhet i form av fravær av digital autonomi. Den eneste sikre strategien for å møte denne utfordringen er sannsyligvis å sørge for å ha en mest mulig sikker og ikke-avbrytbar tilgang til infrastruktur og tjenester man er helt avhengige av. Men når det ikke er realitisk å utvikle disse på engenhånd er vi avhengig av å samarbeide med noen. Noen andre vi kan stole på at ikke kan komme til å trekke ut kontakten. 

Hvordan gjør man det? Vel, for Europas og Norges del vil den mest realistiske strategien handle om å ikke være for avhengig et bestemt lands mer eller mindre vilkårlige rammebetingelser og humørsvingninger, og heller ikke være avhengig av for få leverandører. Vi trenger Europa. Vi trenger EU. Ikke bare for å sikre europeisk regulering og rettsikkerhet, men vi trenger også noen ledende europeiske KI-modeller i tillegg til de amerikanske.

Tilgangen til Claude Fable stanset

Det er mye snakk om digital autonomi og digital suverenitet for tiden. Hvordan er det å ikke ha  til å ha tilgang til den digitale infrastrukturen og de digitale tjenestene man ønsker og trenger? Eller vite at noen andre kan ta denne friheten og handlingsrommet bort uten at du kan gjøre noe med det? De siste dagene har vi fått en viktig opplæring i hvordan dette ser ut i virkeligheten. 

KI i hurtigtogsfart

Tjenesten det er snakk om nå er en kunstig intelligens språkmodell som heter Claude Fable 5 og leveres av selskapet Anthropic. Den som har besluttet at vi ikke skal ha tilgang lenger er USAs regjering, med eksportkontroll som regulatorisk virkemiddel. I praksis rammer dette tiltaket også amerikanske bedrifter og offentige insitusjoner, jeg kommer tilbake til det, men hovedpoenget her er at vi nektes tilgang til viktige digitale tjenester vi bruker i Europa og Norge på grunn av en myndighetsbeslutning i USA. 

Litt bakteppe før jeg kommer tilbake til denne konkrete saken med tilgang til KI-tjenester fra Anthropic: "Stacken" vi trenger tilgang til for å fungere digitalt er sammensatt av mange ulike ting. Alt fra tilgang til maskinvare og komponenter, kraftforsyning, kommunikasjonsnettverk, datasentre og skytjenester, til programvare og tjenester, og i økende grad kunstig intelligens. Innenfor flere av disse lagene er det grunner til å være bekymret, men problemene er ulike og svarene på dem er også litt ulike.

Den siste tiden har manglende autonomi når det gjelder kunstig intelligens seilt opp som en viktig bekymring, og da handler det særlig om de store KI-modellene som brukes globalt, og som det investeres millarder i å forske fram og lære opp. Nye og bedre modeller lanseres hypping, gjerne med bare noen ukers mellomrom. Og det er særlig Anthropic (Claude), Open AI (Chat GPT) og Google (Gemini) som driver dette kappløpet fremover.

Kinesiske KI-selskaper prøver så godt de kan å holde følge, og har hatt en hel del suksess med sine "åpne" KI-modeller som kan kjøres lokalt på dine egne datamaskiner eller servere, og ikke er bundet til de store plattformenes datasentre og infrastruktur. Europa har ikke klart å melde seg ordenlig på i kampen om dette digitale lederskapet, og er i praksis blitt helt avhengig av de amerikanske selskapene når det gjelder både hardware og og KI-språkmodeller.

Claude Fable 5

Denne sterke avhengigheten av andre er ikke bra selv i normale tider, men med Trump som president i USA er det blitt overtydelig hvor sårbare andre land er, men også hvor sårbare amerikanske selskaper, er blitt. Alle som sier eller gjør noe USAs president ikke vil høre risikerer å få innført en ny toll eller underlagt eksportkontroll som avskjærer dem fra å få tak i produkter og tjenester i det hele tatt. 

Akkurat hvor sårbare vi er blitt har vi fått demonstrert de siste dagene. 9. juni lanserte Anthropic verdens til nå mest avanserte KI-modell, Claude Fable. Pressemeldingen fra Anthropic er her. Allerede forrige fredag, 12. juni sendte Anthropic ut en ny pressemelding om at de var blitt tvunget til trekke Claude Fable fra markedet igjen på grunn av et pålegg fra regjeringen i USA. Der skrev de at:

"The US government, citing national security authorities, has issued an export control directive to suspend all access to Fable 5 and Mythos 5 by any foreign national, whether inside or outside the United States, including foreign national Anthropic employees. The net effect of this order is that we must abruptly disable Fable 5 and Mythos 5 for all our customers to ensure compliance. Access to all other Anthropic models will not be affected. We received the directive from the government today at 5:21pm (ET). The letter did not provide specific details of its national security concern."

Nå var ikke stemningen den beste mellom Anthropic og Donald Trump før denne beslutningen heller. Anthropic har ved flere anledninger vært uenige om USAs og Pentagons tilbakeholdne linje når det gjelder regulering av KI og sikkerhet rundt KI. Dette har ikke bare ført til en ordkrig, men også at Anthropics tilbakeholdenhet og ønske om å gjøre egne etiske vurderinger, paradoksalt nok er blitt beskrevet som en sikkerhetsriko. Det har gjort at de er kastet ut av Pentagon og og blitt tvunget ut av myndighetskontrakter. Den siste tiden er dette blitt enda mer paradoksalt fordi nettopp Anthropic har utviklet de mest avanserte verktøyene for å avdekke digitale sårbarheter og sikkerhtstrusler, og delt denne kunnskapen med både USAs myndigheter og store selskaper.

Trump skyter seg selv i foten

Takken for å være ledende i verden, og samtidig advare mot for svak myndighetsregulering, kom i slutten av forrige uke da de ble fratatt muligheten til å tilby kundene sin mest avanserte KI-modell, Claude Fable 5, etter bare tre dager. Noen av oss rakk å teste den og finne ut på den korte tiden at den er enda bedre enn det vi har sett før. Benchmarkingen mot andre modeller viste det samme. Forhåpentligvis får vi snart bruke den igjen snart, og KI verdenen vil uansett bevege seg videre, men i disse tider er det ikke godt å si hva som kommer av innfall og utfall.

At Anthropic taper på Trump-regiments vilkårlighet er det ikke noen tvil om, og denne gangen kom smellen akkurat når de skal hente milliarder i investorpenger til en børsnotering. Men det er også interessant å reflektere litt over hvem som blir tapere i denne konflikten. The Economist skriver i en god artikkel om "Donald Trump’s blocking of Anthropic is capricious and chaotic", at:

"It was not immediately clear on what legal grounds the government imposed the suspension. Anthropic said the models were hit by an export-control directive. Charlie Bullock, of the Institute for Law & AI, a think-tank, speculates that the government used the Commerce Department’s Export Administration Regulations, which are also used to restrict sales of AI chips to China.

But the government’s primary aim may not have been to control foreign access to frontier models. Instead, it appears to have used export controls as a convenient way to target Anthropic. If so, foreigners may be collateral damage in a power struggle between the Trump administration and a leading model-builder that President Donald Trump once described as an “out-of-control Radical Left AI company”.

Europeisk autonomi 

Uansett hva utfallet av denne konflikten blir på kort sikt, er det ingen tvil om at den vil sette fart i EUs og europeiske lands behov for økt digital autonomi og handlefrihet, uten å risikere å bli innelåst i digitale tjenester man plutselig kan miste tilgangen til. Det samme gjelder Canada, Australia og andre land som i normale tider er blant USAs nærmeste allierte. Men slik er det dessverre ikke nå, og tapte av tilgang til Claude Fable viser at det ikke bare er en teoretisk mulighet at Europa mister tilgang til helt nødvendige tjenester og kanskje til egne samfunnskritiske data. Det er åpenbart en type skade Donald Trump og Pete Hegseth er helt villige til å utsette andre land for. 

The Economist skriver samme artikkel at:

"America’s allies are now reeling again. Many had spent months securing access to Mythos for government departments, banks and companies. Those permissions evaporated overnight. The cut-off exempts no one, not even America’s partners in the Five Eyes intelligence alliance: Australia, Britain, Canada and New Zealand. Those countries are already grappling with the lapse of key surveillance powers that Congress recently failed to renew. Losing access to Mythos puts them in the same boat as Russia, China or Iran." 

En annen god artikkel om hva dette vil kunne utløse av reaksjoner både fra amerikansk næringsliv og fra europeiske politikere er i The Atlantic, med overskriften "The White House Is Ratcheting Up Its War Against Anthropic - This is how America loses the AI race."  

"The Trump administration has repeatedly evinced that it can and will instantly bar any person or business from using any AI model for any period of time. A technology that is advancing rapidly and could have catastrophic impacts “is exactly the situation in which you need to give the executive an enormous amount of discretion,” Rozenshtein said. Yet at the same time, he said, Trump’s tendency to change his mind on a whim and play favorites is “exactly the reason why you don’t want to give the executive enormous amounts of discretion.” To say the least, it’s perilous to build a product, invest in a company, or even just try to leverage AI for productivity gains in an environment in which the government might at any time take a wrecking ball to your plans. America and its tech companies have many factors in their favor when it comes to leading the way in AI development. As of now, the White House is not one of them."

Det sier seg selv om et Europa og et EU som uansett er bekymret for USAs utvikling, og også bekymret for at man ligger etter når det gjelder både digital innovasjon og digital infrastruktur, vil bruke dette som en anledning til å forsterke planer om å bli mer digitalt selvforsynte og autonome. Frankrike vil invitere andre land til samarbeid om å utvikle Mistral.ai som et regulert og etisk forsvarlig europeisk alternativ, som dessuten bidrar til å sikre europeisk autonomi. Og noen av USAs egne plattformselskaper, inkludert Anthropic vil måtte prøve å vise at de ikke er avhengige av vilkårlige politiske beslutnigner tatt av USAs president og regjering. Det blir ikke lett. Kanskje noen må lokalisere seg andre steder for å vise at de mener alvor?

 USAs selvskading

For paradoksalt nok havner amerikanske bedrifter i samme håpløse situasjon som bedrifter og myndigheter i Europa og andre allierte land, fordi det i de amerikanske KI-selskapene er fullt av utenlandske statsborgere som forsker og utvikler, Og disse skal i følge USAs myndigheter ikke ha tilgang til denne mest avanerte teknologien. Noe som i praksis betyr at ingen ansatte i disse selskapene kan ha tilgang til de mest avanserte KI-modellene, og heller ikke kan drive forskning på dem. Det gjelder også ledende ansatte i Anthropic selv, personer som bor i USA, men som er statsborgere i andre land. 

Den paradoksale situasjonen er at USA akkurat nå er i ferd med å diskutere, og kanskje åpne opp for, eksport av de mest avanserte KI-brikkene til Kina, mens canadiske borgere som bor og jobber i USA ikke får tilgang til amerikanske selskapers egne KI-modeller. The Economist skriver at de nåværende begrensningene på utlendingers bruk av Antropics KI virker veldig lite gjennomtenkt nettopp fordi de særlig vil ramme amerikanske selskaper og USAs konkurransekraft og forskingsinnsats, og åpne døren for konkurrenter andre steder. I hvert fall i Kina, og forhåpentligvsi også i Europa:

"...some observers believe the American government will eventually have to relent. “Allies can perhaps take some comfort in the fact that this is a totally untenable approach to use long term, due to the number of foreigners inside American AI companies,” says Helen Toner of Georgetown University’s Centre for Security and Emerging Technology. “Preventing foreign nationals from accessing the models is essentially equivalent to preventing any company affected from doing any further AI R&D work."

Det virker veldig rart at USAs regjering skal legge seg på en linje som jager kunder og partnere vekk fra produktene til deres egne teknologiselskaper, og åpener døren for kinesiske KI-tjenester, som kanskje er de store vinnerne i denne situasjonen. Det åpener også døren for en enda mer bevisst strategi for økt digital autonomi i Europa. Dagens president i USA har som sagt en utviklet evne til å drive selvskading, og da er det ikke umulig at det er den veien det går.

Om KI-bobler og KI-flaskehalser

Få ting polariserer så mye for tiden som diskusjoner om KI er en velsignelse eller en forbannselse. Det finnes flere ulike undervarianter av den motsetningen, som spørsmålet om KI vil erstatte en stor del av jobbene og yrkene, eller om den vil gjøre gi oss verktøy til å gjøre jobbene våre bedre. Og om KI kan komme ut av kontroll og bidra til stor skade på menneskeheten, eller om KI tvert imot kan bidra til å redde oss fra fattigdom, sykdom og sikkerhetsetrusler. 

En særlig aktuell og mer umiddelbar variant av velsignelse- eller forbannelse-diskusjonen er spørsmålet om vi står overfor tidenes største markedsboble, med overinvesteringer og påfølgende gigantsprekk, eller om det faktisk er en etterspørsel etter all datakraften, grafikkprosessorer, stadig oppdaterte språkmodeller, chatboter, agenter, og nye anvendelser av KI.

Ikke bare er diskusjonene om KI er en boble veldig polariserte, men hva som er de rådende trendene når deg gjelder spådommer er også ganske omskiftelig. Etter lanseringen av Chat GPT på slutten av 2022 fikk vi først en temmelig KI-euforisk bølge både i tech-selskapene, hos investorer, blant politikere og i næringslivet, og både investeringer og aksjekurser gikk til himmels. Chat GPT bruke tre måneder på å nå 100 millioner brukere i janar 2023, etter to måneder, og har omkring 900 milloner brkere i dag. Men bare omkring 50 millioner av disse betaler for abonnementet.

Den store KI-boblen

Og fordi utgiftene er så mye større enn inntektene fikk vi, særlig inn i 2025, noen kraftige advarsler om at denne utviklingen ikke er økonomisk bærekraftig, at det nå overinvesteres i datasentre og dyr hardware, og at de store KI-selskapene blør penger, særllig de som er rendyrkede KI-selskaper, som Open AI og Anthropic, selskaper som ikke kan gjemme sine gratisabonnementer og energikostnader inn i en større pakke av mer lønnsomme produkter, slik Google, Microsoft og Facebook kan. Mange begynte å spørre om hva man skulle bruke all den ledige kapasiteten i datasentrene til når bloblen sprekker, med prosessorer og maskiner som fort blir utdatert.

Hvor mange dager et det igjen til de største innen KI-kostnader slipper opp for penger, og hvilke av selskapene tømt kassen først? Et par helt ferske artikler i The Atlantic og The Economist antyder at det kanskje ikke er riktig spørsmål lenger, ganske enkelt fordi det nå er en eksplosiv vekst i betalt KI. Rogé Karma i The Atlantic formulerer det som en periode har vært den rådende pessimismen, og ogås har vært hans egen analyse noen måneder tilbake i tid, slik:

"Six months ago, the AI sector was looking pretty bubbly. Companies were plowing hundreds of billions of dollars, much of it borrowed, into building new data centers, but had no clear path to profitability. Experts and journalists, myself included, were comparing the AI build-out to the railroad bubble of the 1800s and the dot-com bubble of the ’90s, in which speculation led to overinvestment that eventually crashed the stock market. Even OpenAI CEO Sam Altman voiced public doubts. “Are we in a phase where investors as a whole are overexcited about AI?” he said last year. “My opinion is yes.”

Han har skiftet syn etter å ha sett på tallene i 2026, artikkelen "So, about that AI-bubble" i The Atlantiv slå fast at stemningen nå i begynnelsen av mai 2026 har snudd igjen, og at bekmringen nå ikke er for mye datakapasitet og for mye KI-hardware, men at etterspørselen har tatt seg kraftig opp og at bekymringen er at det er for lite kapasiteti forhold til etterspørselen:

"Today, however, we’re in a very different world. Software developers are adopting AI tools en masse and reporting astronomical productivity benefits. The worry that the country is building too many data centers now coexists with the fear that we won’t have enough of them to satisfy the public’s growing appetite for these products. And the company previously known as OpenAI’s junior competitor has become possibly the fastest-growing business in the history of capitalism. Anthropic’s revenue is increasing faster—much faster—than Zoom’s during the pandemic, Google’s during the early 2000s, and even Standard Oil’s during the Gilded Age. If the company’s current growth rate were to continue, then by early next year it would be taking in more money than any other company in the world."

KI som gjør ting og ikke bare sier ting.

Det er særlig Antropic som trekkes frem i artikkelen, men det har også skjedd noe mer generelt når det gjelder KI brukes til, og som har fører til denne enorme veksten. Den nye vekstmaskinene har navn som Claude Code, Open AI Codex og Anyspheres Cursor. Det er verktøy for å utvikle og skrive programvare mye raskere. Og også en verktøykasse av tilkyttede tjenester som tar styringen på arbeidsprosesser, leder prosjekter, gir seg selv nye oppgaver, og opererer mye mer autonomt når det gjelder å løse kreative oppgaver enn de digitale verktøyene vi har brukt til nå. KI går fra å mene ting og skrive ting, til å faktisk gjøre ting. Den utviklingen går veldig raskt, og bedriftsmarkedet er åpenbart villig til å betale for det.

Ja, faktisk brukes disse nye og datakraftintensive verktøyene så mye og så raskt at leverandørene er bekymret for at de slipper opp for datakraft til å dekke etterspørselen, og har begynt å øke prisene og rasjonere bruken av de mest bruke tjenesten strengere. Særlig Anthropic for kjeft for at folk slipper opp for "tokens", det vil si de tilmålte kvotene for KI-bruk som ligger i abonnementene, og som brennes opp fort i de mest avanserte modellene. Er du gratisbruker kan du bare glemme å få gjort store og tunge arbeidsoppgaver.

Også The Economist har fått mes dag at boblen ser ut til å være avlyst, i hvert fall foreløpig, og skriver i lederartikkelen "The AI supply crunch is here", at:

"Artificial intelligence has a supply problem. As the world gorges on tokens, the snippets of text by which the output of a large language model is counted, it is running short of them. Weekly token consumption quadrupled between January and March, according to OpenRouter, a marketplace for AI models, partly because of the growing use of coding tools. The industry cannot keep up. At model-makers and tech giants, rationing is afoot. Anthropic, maker of Claude, recently adjusted its terms to deter heavy use during peak hours. Amazon says that “capacity constraints” have limited its growth

Verdikjeder og flaskehalser

Det har stor betydning om KI-tjenester er et spørsmål og stadig bedre tjenester til stadig lavere priser, slik det har vært med datamaskiner og kommunikasjonsteknologi tidligere, eller om vi står overfor knappheter på tilbudssiden. Da blir spørsmålet hvor i verdikjeden de viktiste flaskehalsene er, noe som kan gi svært høye fortjenestemarginer til de som har det markedet etterspør aller mest. The Economist skriver at:

"The greatest profits will be found at choke points. The AI boom has especially benefited Nvidia and TSMC, the Taiwanese manufacturer that makes almost all of the most advanced chips. Chip manufacturers’ pricing power has become as enormous as their transistors are tiny. Nvidia’s gross margin is about 75%, up from 60% in 2019. TSMC’s gross margin is above 60%, roughly twice that of many other contract manufacturers."

The Economist har også en litt lengre og grundigere artikkel om KI-verdikjeden med overskriften "The AI rush is hitting a bottleneck". Den tar for seg hele verdikjeden som trengs for å levere KI-tjenester globalt, fra de store "hyperscalerne" som Amazon, Microsoft, Google, Meta og Oracle, og til de som leverer prosessorer, minnebrikker, nettverksytstyr og utstyr for å produsere alle disse komponentene. Og slår fast at det er noen viktige flaskehalser:

"The crux of the problem is that companies along the AI supply chain are investing far less than the hyperscalers. We examined the planned capital spending this year of the 50 or so largest manufacturers of chips, chipmaking tools, servers, networking gear and cooling equipment, and how it has changed since 2024. The five hyperscalers have tripled their combined capital spending, to more than $750bn, but the hardware suppliers have increased theirs by only half, and will invest less than a third as much as the cloud giants this year."

Det kan med andre ord bli ganske humpete framover, men The Atlantic og The Economist peker på at det kanskje ikke vil skje på den måten vi regnet med. Det er ikke slik at at folk er blitt lei eller at KI-underpresterer, men tvert imot slik at de nye modellene er så etterspurte og datakraftkrevende at tilbudssiden sliter med å levere. 

Fremtidsfortellinger om kunstig intelligens

I en tid der teknologiske endringer og nye teknologidrevne innovasjoner treffer oss raskt, særlig drevet av kunstig intelligens, er det viktig å øke vår forestillingsevne om hva konsekvensene av disse teknologiske skiftene blir. Positive og negative konsekvenser for oss som individer, for arbeidsplassen og for lokalsamfunnet. Men også  for Norge og verden.

Dette blogginnlegget skal handle om et par helt nye leseverdige fremtidsfortellinger om kunstig intelligens, men før jeg kommer dit skal jeg forsøke meg på en mer generell betraktning om behovet for å forstå og skape mening når det gjelder store teknologisprang eller "paradigmeskifter". Slike endringer som kaster om på hvordan vi produserer, konsumerer, arbeider, reiser eller snakker sammen. 

Forestillinger om radio, TV og bilveier

Noen av oss er faktisk så gamle at vi vokste opp i et samfunn uten internett, mobiltelefon og epost. Men selv om vi vet at det var slik, og husker det, er det noen ganger litt vanskelig å huske akkurat hvordan vi løste ulike pratiske gjøremål i hverdagen uten en smarttelefonen eller PCen i nærheten. Men det er mye vanskeligere å forestille seg slike endringer motsatt vei, hva som vil skje i forkant av at det skjer, Hvordan forklarer man hva internett er, og hva man kan bruke det til, til en person som aldri har prøvd det? Og hvordan forklarer man hva som kommer når verken du eller noen andre har sett det?

Behovet for slike forestillinger om fremtiden er særlig verdifulle når det gjelder infrastukturteknologier. Teknologi som ikke bare er en innovativ ny tjeneste ingen har tenkt på før, men en infrastuktur som muliggjør et helt økosystem av nye tjenester, nytt innhold og nye måter å samhandle på. Hvordan forestille seg hvordan et bilbasert samfunn ser ut før biler blir masseprodusert. Eller hvordan radio og TV skulle endre samfunnet, før radio og TV fantes? 

Det er vanskelig å spå om fremtiden, og slike fortellinger blir naturligvis ikke alltid helt presise. Noen ganger kan det være lurt å lage flere sccenarioer for å teste ulike ulike intre og ytre drivkrefter og få frem at det er noen veivalg som bør drøftes, men selve øvelsen med å trene på fremtidsforståelse er verdifull når mye er i endring

En annen teknologiparallell jeg ser brukes ofte i slike diskusjoner er hvordan standardiserte containere forandret logistikk, transport, og hele verdenshandelen fordi varer ikke lenger måtte pakkes om i havnene fordi de samme conatinerne passer på skip, jernbanevogner og lastebiler. Et tilsynelatende enkelt og kjedelig teknologiskifte som har endret verdensøkonomien Jeg blogget om en bra bok om hvordan containerne endret verden her. Og jeg vil anbefale Liv Dingsør i Digital Norways beskrivelse av opptrening av digital forestllingsevne her.

Eksponentiell vekst og paradigmeskifter

Jeg tenker at vi har noe av den samme tvilen og usikkerheten når det gjelder kunstig intelligens nå som vi hadde da internettinfrastuktur og -tjenester fikk sitt tidlige gjennombrudd rundt 1995. Med nett-pionerer, evangelister, entreprenører, wow-opplevelser, og en følelse av at dette var starten på noe mye større, men også noen som hevdet at dette var en boble som ville sprekke fordi det ikke var helt klart hva de store og dominerende industriene og offentlige tjenestene skulle bruke internett til. Bortsett kanskje fra å ha en nettside. Og når det nesten ikke var noe å gjøre på nettet, og det lille som var der kanskje ikke alltid var ting du ville viser til andre, så måtte det være en hype.

Som med andre digitale teknologier er det en underliggende eksponentiell vekst som driver endringene, vekst i prosessorhastigheter, datalagring og båndbredde, kombinert med stadig mer data, smartere algoritmer og bedre software. Men som med andre store teknologiskifter er hardware og software bare muliggjørere. Nødvendige forutsetninger, ja, men nye produkter, tjenster og arbeidsprosesser må skapes av noen. Det er ikke lett å spå hvilke tjenester og prosesser som kommer, eller hvor raskt og hvor bredt de blir tatt i bruk. 

Det foregår også en maktkamp i et paradigmeskifte.  Etablerte aktører vil kunne bruke eksisterende dominerende verdikjeder til gjøre det vanskelig for nye utfordrere, og vi får en periode der det er uklart om og hvor raskt den nye måten å gjøre ting på vinner fram. Og så er det jo også slik at selv om teknologiens muligheter utvikler seg raskt og eksponentielt, så er det ikke slik at kompetanse, arbeidsmåter, organisasjonskulturer, insitusjoner og lovverk endres like raskt. Og ikke menneskers holdninger og verdier heller, heldigivs. 

Ny teknologi må finne sin plass innenfor et større system som vektlegger flere ting enn hva som er mulig, for eksempel hva som er ønskelig og hva det finnes samfunnsmessig og politisk aksept for. Også av den grunn er fremtidsforestillinger og scenarioer viktige hjelpemidler og samtalegrunnlag.

Fremtidsforestillinger om KI

Jeg håper denne lille omveien ikke ble for lang til det som er poenget i dette blogginlegget: Et par nye og leseverdige artikler med fremtidsfortellinger om kunstig intelligens. To artikler som gjennom å være spekulative, men likevel realistiske og ganske konkrete om en helt nær fremtid med mer KI, kan hjelpe oss til å komme til en bedre samtale om både mulige og ønskelige utviklinger, og hva vi helst vil unngå. De to artiklene er bidrar kanskje mest til det siste. Uten å være dystopiske løfter de frem noen problematiske iboende sider ved KI-teknologien og den dynamikken den bidrar til å utløse. 

Den første artikkelen er et scenarionotat produsert i et samarbeid mellom forskningsmiljøet Citrini Research og Alap Shah med tittelen "The 2028 Intelligence Crisis". Som overskriften forteller er vi bare to år frem i tid, men i løpet av disse to årene har den kunstige intelligensen blitt tatt i bruk i dybden og bredden, med store produktivitetsøkende virkninger, særlig i teknolgi- og sofwareindustrien selv. Deretter kommer et stort krakk. Ikke fordi teknlogien ikke leverer, men tvert imot fordi samfunnet ikke var godt nok  forberedt på de sysselsettingsmessige og fordelingsmessige konsekvensene av det store skiftet. Notatet åpner med å forklare at;

"Two years. That’s all it took to get from “contained” and “sector-specific” to an economy that no longer resembles the one any of us grew up in. This quarter’s macro memo is our attempt to reconstruct the sequence - a post-mortem on the pre-crisis economy."

Scenarioet som beskrives i fortellingen blir omtalt som "the human intelligence displacement spiral", det vil si effekten på kunnskapsarbeidere av at kunstig intelligens tar over stadig flere kunnskapsintensive jobber. Når noen overtar jobber er det noen andre som mister dem, og de som overtar jobbene i dette scenarioet kjøper verken mat, boliger, møbler eller teaterbilletter. De jobber hele tiden.

Scenarioet går igjennom hvordan KI tas i bruk på en rask og effektiv måte over alt der den kan erstatte "friksjon" og "mellommenn". Det gjelder i første omgang yrker og roller som er skaper verdi fordi folk ikke har tid, oversikt og tålmodighet til å samle og sammenligne data, men som maskiner gjør veldig effektivt. Og hvordan dette sprer seg fra softwareutvikling og digitale tjenester, og inn i stort sett alle markeder. Mens mange økonomiske endringer er sykliske, det om går ned kommer opp igjen når kapasiteten blir for lav, og for mange jobber er blitt borte,  blir erstattet av nye yrker og oppgaver, tar dette scenarioet tilorde for at det dette er en rent negativ spiral:

"AI got better and cheaper. Companies laid off workers, then used the savings to buy more AI capability, which let them lay off more workers. Displaced workers spent less. Companies that sell things to consumers sold fewer of them, weakened, and invested more in AI to protect margins. AI got better and cheaper. A feedback loop with no natural brake."

Konsumkrise, gjeldskrise og politisk reaksjon

I den videre fortellingen går scenarioet inn hvordan den nedadgående spiralen i sysselsetting og lønninger for kunnskapsarbeidere.raskt leder til til en oppbremsing i forbruket, som så slår ut i at et tilsynelatende robust system for å forvalte kreditt og annen gjeld, blir satt i spill. Artikkelen gir også en interessant sammenligning mellom likheter og forskjeller mellom dagens sitasjon og finanskrisen fra 2008. 

Deretter handler fortellingen om hva som skjer når krisen havner på politikernes bord, og man skal finne "tiltak". Her beskriver scenarioet noen gode diskusjoner, og interessante forslag til tiltak, men den politiske prosessen går langsomt, mens teknologiens disrupsjoner går mye raskere og lar seg ikke bremse:

"It’s hard to imagine the public hating anyone more than the bankers in the fallout of the GFC, but the AI labs are making a run at it. And, from the perspective of the masses, for good reason. Their founders and early investors have accumulated wealth at a pace that makes the Gilded Age look tame. The gains from the productivity boom accruing almost entirely to the owners of compute and the shareholders of the labs that ran on it has magnified US inequality to unprecedented levels. 

Every side has their own villain, but the real villain is time. AI capability is evolving faster than institutions can adapt. The policy response is moving at the pace of ideology, not reality. If the government doesn’t agree on what the problem is soon, the feedback loop will write the next chapter for them."

Hvis vi putter dette scenariet inn i firefeltstabellen til det norske Kunnskapsbehovsutvalget som jeg blogget om for noen dager siden, er vi i scenarioer i nederste øyre hjørne, som de kaller "Omveltende automatisering", som er kobinasjon av verdig rask KI-utvikling og en utvikling der KI erstatter mennskeskers jobber i stedet for å først og fremst gi kunnskapsarbeidere bedre verktøy for å bli bedre og mer effektiv i utføreselen av arbeidet. 

Men det behøver ikke bli slik. Man kan også tenke seg en alternativ fortelling der teknologiutviklingen går raskt, og mange kunnskapsoppgaver erstattes av automatisering, men de fleste jobber består og tilpasses nettopp fordi teknologien blir en hjelper og en samarbeidspartner. 

Men i disse fortellingene, både i en optimistisk og en mer pessimistisk versjon, er det slik at mennskelig intelligens og menneskelig kunnskap ikke er den samme knapphetsfaktoren som har dimensjonert arbeidsmarkedet frem til i dag. Måten mennesker og teknoogi samspiller på er imidlertid ulik. Gode scenarioer og forestillinger om hvordan disse fremtidene vil kunne se ut kommer til å bli viktige fremoverfor, både som grunnlag for virksomhetsstrategier i en verden med rask utberedelse av KI, og i form av nasjonale strategier for å møte denne utviklingen. Det er lettere å sette inn ressurser, rammebetingelser og tiltak på rett sted hvis man har et klarere bilde av hvordan fremtiden kan bli og hvilken fremtid som er ønskelig.

Kan KI overleve sin egen pubertet?

Den andre fremtidsfortellingen jeg vil trekke frem her, og som er ganske fersk, er Dario Amodeis fortelling "The Adolescense of Technology" Amodei er konsernsjef i KI-selskapet Anthropic og skrev i fjor en optimistisk fremtidsfortelling som heter "Machines of loving grace" om hvordan KI  kan bidra til å løse ulike store samfunnsutfordringer.

Nå i januar komhan med et nytt essay som er er mer opptatt av risikoscenarier og eksistensielle trusler,  "The Adolescence of Technology". Amodei mener ikke at nødvendigvis må gå galt, men er opptatt av hva som kan gå galt hvis det går galt. Derfor er realistiske og forståelige forestillinger om hva som kan gå alvorlig galt viktige. Da blir langt bedre rustet til å hindre slike scenarioer i virkeligheten.

Dairio Amodei skriver om "teknologiens pubertet", og hvordan man kommer igjennom den uten at denne krevende fasen gjør alvorlig skade en selv eller omgivelsene. Han tar utgangspunkt i en scene i en science fiction-film av Carl Sagan:

"There is a scene in the movie version of Carl Sagan’s book Contact where the main character, an astronomer who has detected the first radio signal from an alien civilization, is being considered for the role of humanity’s representative to meet the aliens. The international panel interviewing her asks, “If you could ask [the aliens] just one question, what would it be?” Her reply is: “I’d ask them, ‘How did you do it? How did you evolve, how did you survive this technological adolescence without destroying yourself?”

Amodei er som sagt påpasselig med å etterlyse en balansert og nyansert tilnæringem til farene og risikoen KI representerer, ved å unngå dommedagsprofetier ("doomerism",  men også erkenne at det er trusler og farer, og fremfor alt usikkerhet). Vi før ha ambisjoner om å gjennomføre tiltak og reguleringer så "kirurgisk" som mulig. I stedet for generelle innovasjonshindrende og -hemmende begrensninger må innsatsen være risikobasert og presis..

Et land med bare nobelprisvinnere

Amodei omgår delvis diskusjonen om en når vi får se en "generell kunstig intelligens" som overgår mennesker på alle områder, og beskriver i stedet noe han kaller "powerful AI", som er overlegen nobelprisvinnere når det gjelder vitenskapelige evner og evne til å løse mange andre oppgaver, men ikke nødvendigvis alt. Denne KIen er går et skritt videre fra å svare raskt på konkrete oppgaver og kan arbeide uavhengig i lange perioder, og selv formulere promlemstillinger den skal løse. Og han minner om hvor raskt utviklingen går:

"We are now at the point where AI models are beginning to make progress in solving unsolved mathematical problems, and are good enough at coding that some of the strongest engineers I’ve ever met are now handing over almost all their coding to AI. Three years ago, AI struggled with elementary school arithmetic problems and was barely capable of writing a single line of code. Similar rates of improvement are occurring across biological science, finance, physics, and a variety of agentic tasks. If the exponential continues—which is not certain, but now has a decade-long track record supporting it—then it cannot possibly be more than a few years before AI is better than humans at essentially everything."

Med dette som bakteppe formulerer artikkelen et hypotetisk spørsmål om hvordan man ville forholde seg til et mellomstort land i verden der hele befolkningen har intelligens på samme nivå som nobelprisvinnere, og dekket stort sett alle fagdisipliner og domener, slik at de rett og slett er i stand til å utkonkurrere andre land på på alle fagområder.

"Imagine, say, 50 million people, all of whom are much more capable than any Nobel Prize winner, statesman, or technologist. The analogy is not perfect, because these geniuses could have an extremely wide range of motivations and behavior, from completely pliant and obedient, to strange and alien in their motivations. But sticking with the analogy for now, suppose you were the national security advisor of a major state, responsible for assessing and responding to the situation. Imagine, further, that because AI systems can operate hundreds of times faster than humans, this “country” is operating with a time advantage relative to all other countries: for every cognitive action we can take, this country can take ten. What should you be worried about?"

Fem farer som truer

I stedet for å beskrive et bestet scenario i form av av en sammenhengende fortelling, velger Amodei å utbrodere rundt fem ulike kategorier av farer som man bør bekymre seg for, og som må håndteres når den kunstige intelligensen blir enda kraftigere. 

Første risiko kaller han "autonomi-risiko", og er også omtalt som "I'm sorry, Dave", inspirert av datamaskinen Hal i Stanley Kubricks film fra 1968, "2001 - En romodysse". Der forsøker datamaskingen å ta over kontrollen av romskipet og prøver også å ta livet av sine menneskelige sjefer. Kan KI som er koblet til fysiske innretninger i vårt eget samfunn gjøre det samme? I stedet for å late som dette ikke er noen reell problemstilling, gir Dario Amodei en lang, reflektert og veldig interessant drøfting av i hvilken grad KI-autonomi er et problem, og hva som kan forhindre det.

Andre risiko er at destruktive mennesker får kontroll over teknologien. En slags motpol til at teknologien blir autonom og destruktiv, for å beskytte seg selv, er at teknologien tvert imot er lydig, og også lydig mot mennesker med skadelige og samfunnsødeleggende hensikter. Skal maskinene gjøre det de er lært opp til av mennesker, eller kan de fravikte dette og følge instruksene gitt av menneskelige eiere med samfunnsskapdelige ambisjoner? Hva veier tyngst, og kan egentlig en maskin gjøre etiske vurderinger av hva som er riktig? Også her gir Amodei en nyansert og drøftende vurdering av hva som kan gå galt.

Tredje utfordring handler også om å bruke KI til å oppnå menneskelige ambisjoner, men i dette tilfellet handler det om å bruk KI som redskap til å erobre makt og innflytelse. Ja kanskje herredømme over et land, eller over hele verden? Det oppnår man normalt ved å styre mennesker, men er det mulig å lykkes enda bedre gjennom å slippe å forholde seg til mennsker, men bruke KI direkte til å få makt? Artikklene nevner KI brukt til kontroll over autonome våpensystemer, KI brukt til massiv overvåkning av alle innbyggere, KI brukt som redskap for propaganda og informasjonskontroll, og KI brukt til strategisk analyse og beslutninger. 

Amodei kommer i denne drøftingen også inn på KI bruk som redskap for autoritære diktaturers kontroll med innbyggerne, som i Kina, men også om betydningen KI kan ha for demokratier som kjemper mot skadelig propaganda og manipulasjon fra diktaturer. Og han er også ganske direkte når det gjelder de store, private KI-selskapenes potensielle maktmisbruk og anti-demoratiske rolle dersom de velger å ta i bruk egen KI-teknlogi til å forfølge denne type mål.

For det fjerde kan veldig avansert KI i hendene på et enkelt land eller selskap alene resultere i en distuptiv utvikling også i situasjoner der man ikke har samfunnsskadelige ambisjoner, men der effektene av gode ønsker likvel kan få skadelige virkninger. Dersom teknologien et sted er veldig overlegen det alle andre har, jfr eksemplet med et land med en befolkning som bare består av av nobelprisvinnere, så kan dette rett og resulterer i en så vellykket økonomisk og teknologisk utvikling at det blir veldig forstyrrende for andre land og selskaper. Ved å utkonkurrere alle andre kan land eller selskaper bidra til negative økonomiske konsekvenser for alle andre, hevder Amodei. Også her går han nyansert inni ulike argumenter for og mot at teknologien vil få slike virkninger, og drøfter også måter å utvikle beredskap og lage forsvarslinjer.

Den femte potensielt samfunnunnskadelige virkningen kaller han "Seas of infinity" og er en mer generell observasjon av at rask teknlogisk utvikling medfører en hel del indirekte effekter som kan være destabiliserende for andre. I stedet for knapphet på intelligens blir det uendelig tiltgang. Hva slags ringvirkninger gir det? Vi får kansksje flere tiårs vitenskapelige fremskritt på noen få år. Dario Amodei nevner noen mulige slike fremskritt innenfor biologi og genetikk, innenfor KI brukt til terapeutisk behandling, med alle de mulige nedsidene det kan medføre, og KI som også mer generelt påvirker og  forstyrrer hva vi tenker om mål og mening med livet.

KI på kort og lang sikt

Begge artiklene jeg har nevnt handler om relativt distuptive endringer som kan skje på ganske kort sikt og som drives av den raske forbedringstakten i den underliggende KI-teknologien. Når det gjelder mer langsiktige forestillinger om en fremtid der KI er helt innvevd i samfunnsinfrastrukturen, i utdanningen, i helsesektoren, som overvåkningsteknologi, i autonome kjøretøyer, i kvantedatamaskiner og i autonome og sammenvevde våpensystemer, vil jeg anberale novellesamlingen "AI 2041 - Ten visions for our future", skrevet av Kai-Fu Lee og Chen Qiufan. Førstnevnte er teknolog og ventureinvestor i Kina. Sistnevnte er science fiction-forfatter. Og sammen har de forfattet ti veldig gode og tankevekkende fortellinger om fremtiden, med en stor  pakke etiske dilemmaer, målkonflikter og andre floker som kan seile opp og må løses. Herlig spekulativt, naturligvis, men glitrende godt fortalt.

Jeg blogget om boken her. Det er fem år siden den kom, en hel evighet i KI-sammenheng, men jeg tror boken er blitt enda mer dagsaktuell nå. Fremtidsdrøftingene til Citrini research og til Dario Amodei ligger mye nærere i tid, og er derfor mindre spekulative, men på sett og vis mer urovekkende nettopp fordi de ligger så nær i tid, og gir oss liten tid til å forberede innbyggere, samfunn, lovverk, arbeidsliv og utdanningssystem på det som kommer. Vi må løfte den teknologiske forestillingsevnen enda noen hakk for å lykkes med dette.