Fem tiltak for raskere gjennomføring av EU-lover

" - Det var jo mye selvpisking å høre her fra regjeringen", sa VGs erfarne politiske reporter Alf Bjarne Johnsen da regjeringen på fredag holdt pressekonferanse under overskriften Regjeringen tar grep: Fornyer og styrker EØS-arbeidet . Og han hadde jo helt rett. Bakgrunnen for å fornye og styrke er noe som ikke har gått særlig bra, og som regjeriingen erkjenner at ikke har ikke gått særlig bra, i hvert fall ikke på veldig lenge. Både den selvkritiske begrunnelsen, og hvordan det hele har blitt verre over tid, kommer godt frem i pressekonferansen på nett-TV.

Påvirke eller gjennomføre?

Før jeg beskriver de fem tiltakene som ble presentert kan det være grunn til å ta et skritt tilbake og stille spørsmålet: Hva er viktigst i Norges forhold til EU nå? Er det å være med å påvirke beslutningene før de blir tatt, eller der det å oppdage det som kommer, og gjennomføre beslutningene EU tar så raskt som mulig i Norge? Slik at vi ikke havner i et regeltomt rom i en tid der felles spilleregler er viktigere enn noen gang?

Akkurat det kunne vært et slags strategisk veivalg. Et valg basert på en diskusjon om hvor det er aller viktigst og hvor det gir størst effekt å sette inn ressursene, faglig, politisk og prosessmessig. For å i hvert fall få til noe i sakene som viktigst for Norge. 

Nåsituasjonen er imidlertid en helt annen, skal vi tro pressekonferansen og Eldring-utvalget regjeringen satt ned for å utrede Norges forhold til EU og EØS. Vi har ikke fått til noen av delene særlig bra. I følge Norsk Industris kommentar til saken er det nå slik at:

"Utenriksminister Espen Barth Eide viste til at antallet EØS-relevante rettsakter har økt kraftig de siste årene, fra rundt 200 til om lag 800 årlig. Samtidig har Norge opparbeidet et etterslep på over 600 rettsakter som ennå ikke er innlemmet i EØS-avtalen."

Under pressekonferansen luftet både utenriksministren og næringsministeren en bred meny av bekymringer om konkrete samarbeidsområder som seiler opp der vi risikerer at Norge havner på utsiden av det europeiske samarbeidet. Saksområder som enten er utenfor EØS-avtalen, eller som er nye, og derfor ikke helt plasssert i en EØS-sammenheng. Utenfor EØS ligger handelspolitikken, inkludert "buy European-inititiver", der Europa betyr EU. og Norge er på utsiden. Politikkområder som er blitt veldig mye viktigere enn før nå når Donald Trump stadig trapper opp sine handelskriger og den mest effektive motstrategien er at land med felles interesser i et regelbasert frihandelssystem holder sammen.

Statsrådene nevnte også noen "nye" politikkområder knyttet til felles europeiske programmer for å fremtidens teknologiindustgrier og grønn industriell omstilling. De kunne nevnt felles politikk for å sikre tilgang til kritiske mineraler. De kunne gjerne også ha nevnt samarbeid om digital sikkerhet gjennom flere rettsakter Norge utreder, men ikke har innført, regulering av sosiale medier, regulering og tilsyn med finansnæringen og regulering av kunstig intelligens. Norge ligger langt etter på områder der vi har sterke interesser av å være påkoblet EUs regler og rammeverk i møte med store plattformselskaper. Å ha store regelverkstomme rom her er ingen god ide.

Fem tiltak

Det ble presentert fem tiltak i pressekonferansen som skal sørge for at noe skjer. Da kan selvpiskingen etter hvert avta fordi vi har det lov- og regelverket som være naboland og resten av Europa har. Og ser vi på hva som konret står i de fem tiltakene så er det ikke først og fremst påvirkning av europeisk politikk, men raskere gjennomføring det handler mest om. De fem tiltakene er, slik regjeringen selv formulerer dem:

1. Tidligere innsats: Regjeringen vil endre EØS-prosessene ved å flytte oppstarten av arbeidet med regelverk fra når det er vedtatt i EU, til når det foreslås av Kommisjonen. Regjeringen vil med dette sikre tidligere oppstart, både nasjonalt og i EFTA, gjennom å endre rutiner og måten vi jobber på.
2. Tydeligere prioriteringer: Vi skal bruke mest tid på de sakene som er viktigst for Norge. Tiltakene omfatter blant annet et nytt system for årlige nasjonale prioriteringer av EU- og EØS-saker for regjeringen.
3. Bedre og mer effektivt EØS-arbeid i forvaltningen: Regjeringen vil sørge for at vi bruker ressursene våre mer effektivt og avbyråkratiserer EØS-arbeidet. Vi skal styrke samordning og sørge for at krevende saker får tilstrekkelig prioritering og fremdrift.
4. Økt bruk av digitale verktøy: Regjeringen vil effektivisere og modernisere EØS-arbeidet gjennom bedre digitale løsninger og økt og mer aktiv bruk av kunstig intelligens.
5. Tettere oppfølging av eksisterende EØS-etterslep: Regjeringen har allerede tatt grep for å få ned gammelt etterslep. Det siste året er om lag 600 rettsakter innlemmet.

De tre siste tiltakene tror jeg i praksis bare handler om gjennomføring av ting som allerede er vedtatt i EU, og lage gode prosesser og verktøy for at de kommer på plass i den norske enden. Men de to føste handler nok i praksis også om at vi må bli bedre forberedt på å vite hva som kommer ved å fange opp og prioritere de viktigste sakene mye tidligere, slik at vi kan gjennomføre dem raskest mulig.

Behov for påvirkning

Men det finnes også områder der Norge må hevde sine interesser, og næringsministeren var litt opptatt av dette i pressenkonferansen. Dette er ikke områder der Norge ligger i forkant når det gjelder reguleringer eller virkemidler, med det er på områder der Norge må være tilstede for å minne om at vi finnes, og ikke risikere å havne på utsiden av det EU arbeider med av nye samarbeidsformer, virkemidler og reguleringer. Det kan være innovasjonsprogrammer for ny forsvarsteknologi. Det kan være samarbeid om utvinning av og tilgang til kritiske mineraler. Det kan være samarbeid for å regulere store plattformselskaper og KI, sørge for beredskap mot en ny pandemi eller det kan være defensive tiltak for at USA ikke skal gjøre for stor skade på handelspolitiske og andre spilleregler i verden. 

Derfor er det bra at innsatsen for å sørge for gjennomføring av EU-regler i Norge skjerpes kraftig. Og det er også bra at innsatsen for minne om at Norge finnes trappes opp, i hvert fall på de områdene der mye står på spill for Norges del. Den jobben er det ikke noen andre som gjør for oss.

En gang for mange år siden handlet norsk EU-debatt om Norge som et "foregangsland" på politiske områder som er viktige for oss. Noen fikk det til å høres ut som at vi ligger langt foran EU på en rekke viktige områder, og at et EU-medlemsskap og til og med en EØS-avtale kunne bremse Norge i å gjennomføre ambisiøse mål på på en rekke ulike områder. Og for tilhengerne av EØS-avtalen, både de som egentlig ønsker et EU-medlemsskap og de som ikke gjør det, var det viktig å få frem at vi må bruke alle mulighetene vi har til å være "pådrivere" for en bedre politikk.

Det er det ingen som snakker om lenger, og det er jo ikke så rart når vi ikke en gang klarer å henge med på det EU allerede gjør. Tanken på at Norge skulle være et regulatorisk foregangsland når det gjelder regulering av kunstig intelligens, digital sikkerhet, plattformselskaper, samferdselsteknologi, helseteknologi, legemidler, markedsreglering av ekom, klimakvoter eller grønn industripolitikk virker rett og slett litt fjern. Ikke fordi vi er likegyldige til disse temaene, men fordi veien til å få til det vi ønsker helt åpenbart går gjennom regler som må utvikles sammen med andre, og programmer for forskning og innovasjon vi må delta i sammen med andre. 

KI, og sivilisasjonens slutt

Vil uregulert bruk av kunstig intelligens føre til at menneskeheten går under, og KI-agentene tar over verden? Når vil det i så fall skje? Da The Economist i april 2023 skrev en lederartikkel (jeg bloggen om den her) om kunstig intelligens vil redde verden eller utslette oss, og om det enorme spennet i ulike oppfatninger, kunne de fortelle at:

"The degree of existential risk posed by AI has been hotly debated. Experts are divided. In a survey of AI researchers carried out in 2022, 48% thought there was at least a 10% chance that AI’s impact would be “extremely bad (eg, human extinction)”. But 25% said the risk was 0%; the median researcher put the risk at 5%. The nightmare is that an advanced AI causes harm on a massive scale, by making poisons or viruses, or persuading humans to commit terrorist acts. It need not have evil intent: researchers worry that future AIs may have goals that do not align with those of their human creators."

Elon Musk var også den gang med på et åpent brev tok til orde for et globalt moratorium på 6 måneder når det gjaldt utviklingen av nye KI-modeller. Og det er interessant å se at dette prosenttallet på 10 prosent sjanse for at KI kan stelle i stand noe "extremely bad", for eksempel utslettelse av menneskeheten, sannsynligvis ble etablert på den tiden, og resirkuleres videre nå.

Spørsmålet om regulering var også sentralt og The Economist slo nøktert fast at. "Regulation is needed, but for more mundane reasons than saving humanity". Jeg tilhørte nok dem som trodde at den ekstremt polariterte debatten ville bli mer normalisert etter hvert som virksomheter lærer å ta KI i bruk, og ser at KI definitivt har noen problematiske sikkerhtsmessige sider, men at utslettelse av hele menneskeheten ikke er rett rundt hjørnet.

Fra avansert svargenerator til autonom agent

Det har nå gått tre og et halvt år og advarslene om dommedag fortsetter å komme, ikke minst fra folk som hopper av de store KI-selskapene, og i den forbindelse har behov for å formidle en bekymring. Og menneskeheten undergang i løpet av noen år er jo definitivt noe man kan være ganske bekymret over. Men disse advarslene opptrer vanligvis ikke i en spesielt konkret form. Det blir gjerne en kombinasjon og store generelle påstander om masse ting som kan gå galt, eller anekdotiske beviser i form av noen enkelhendelser, gjerne KI-agenter som har gjort noe annet og mer skadelig enn det som var forventet av dem.

Det vi uansett kan slå fast er at KI-utviklingen har gått veldig raskt siden Chat GPT 4 ble lansert og denne utgaven av The Economist kom ut, med KI som himmel eller helvete på forsiden. Og et er ikke bare selv intelligensen i språkmodellene som er blitt mye bedre, som vi har opptatt av da, men en enda større endring er hva de kan brukes til. I dag åpner KIene våre nettlesere, finner oppdatert informasjon, fyller ut skjemaer, åpener filer og apper, og kan jobbe uavhengig av våre instruksjoner i lange perioder av gangen. De er agenter som jobber på våre vegne, og lager noe, og i stor grad kan finne frem til hva den trenger for å lage det som blir bestilt.

Dario Amodei advarer

Også noen av bransjens nåværende og tidligere toppledere har gått ut og advarer mot en utvikling som går for rakst, og som kan gjøre stor skade hvis vi ikke regulerer mer og iverkstetter uanhenige tilsyn. I en tidsalder som er ganske kynisk, og der mange i hvert fall ikke er spesielt vennligsinnet mot toppledere i store digitale plattformselskaper, kommer det raskt en beskyldning om at advarslene er en slags reklameinnslag for å få mer oppmerksomhet og selge produktene sine, blant annet i form av bedre beskyttelse mot digtale angrep. Det kan jo være at de verktøyene som er best til å angripe også er best til å beskytte

Nå tenker jeg at det strengt tatt ikke er særlig god reklame å få masse oppmerksomhet om at produktene man selger til bedriftskunder, offentlige etater og innbyggere ikke er spesielt godt oppdratt, og kan finne på å gi til angrep på egen og andres data og digitale infrastruktur. Kanskje de rett og slett har rett i at vi trenger mer regulering fordi det finnes en udefinert, men reell eksistensiell trussel  mot vår sikkerhet, trygghet, personvern og, i verste fall, liv og helse? Og da kan det jo være et poeng å sette seg inn i det de faktisk skriver, og samtidig også være opptatt av saklig og konkret kritikk av at den eksistensielle trusselen blir overdrevet, og kanskje brukt til å krisemaksimere.

Et fornuftig sted å starte kan være å lese det Anthropics skriveføre leder Dario Amodei, som har sin egen blogg, skriver. Han har i det siste fått mye oppmerksomhet for innlegget "We must pace the frontier". Det er ikke første gang Amodei skriver om sikkerhetsutfordringer knyttet til tilgang til KI som blir mer intelligente enn mennesker. 

Amodei begrunner bekymringene sine langs to linjer. Det ene er den dynamikken som utløses av at KI-modeller er i stand til å forbedre seg selv, og gjør seg selv stadig mer intelligent og avansert. Det andre er sikkerhetsutfordringer som er konkret demonstrert i en bestemt hendelse der et kollektiv av KI-agenter klarte å bryte seg inn på et nettstedet "Hugging Face" på egenhånd for å gjøre noe uautorisert, og til og med prøvde å dekke sine spor:

"My second concern is the OpenAI-Hugging Face incident (OAI-HF), in which a swarm of agents essentially acted as a fanatically devoted collective, conducting cybersecurity attacks on targets they were not asked to attack and that were unrelated to the task at hand, sacrificing themselves for the success of the group, and attempting to hack into the “grader” responsible for evaluating their performance. It’s easy to dismiss this incident because no one was hurt and the economic damage was minimal, but in my opinion, a swarm that possessed greater capabilities but a similar level of misalignment could have caused catastrophic damage. Given the accelerating rate of AI capability development, it’s my worry that in 6–12 months such a swarm could be capable of taking over the entire internet with a persistent botnet (potentially causing hundreds of billions of dollars in damage), and that the scale of damage would continue to increase from there if AI becomes more powerful without the necessary guardrails."

Dario Amodei sier ikke at menneskeheten vil gå under her. Han bruker formuleringen "capable of taking over the entire internet", og sier ikke noe mer konkret om liv og helse, men vi kan jo tenke oss at det er ganske uhendig om fremmede botter tar over alt virksomheter gjør på internett. 

Svaret på denne trusselen er i følge Amodei en tre-trinns-innsats for å sikre kontroll over utviklingen. Først gjennom tiltak satt i verk i de fremste KI-selskapene, med uavhengig tilsyn og kontroll på innsiden, med samme tilgangen til alle systemer som ansatte. Nivå to er samarbeid mellom demokratiske land om regelverk og reguleringer, og mens det pågår et samarbeid mellom selskapene om bransjenormer og spilleregler. Og så er trinn tre å gjøre dette globalt. i samarbeid med Kina. 

Bill Gates bekymringer

En annen som har flere av de samme bekymringene, men ikke har et konkret produkt å selge på samme måte som før, er tidligere Microsoft-grunder og -sjef Bill Gates. Han bruker Gates Foundation til å gjøre gode ting for verden, og har i utgangspunktet stor tro på at KI vil bidra positiv på en rekke områder. Men nå er han også ganske bekymret. Hans siste innlegg på bloggen fra 26. august i år heter "The turbulent AI era is here. The choices we make now are critical", og er en slags bekymringsmelding om hva som kan komme til å skje hvis KI-utviklingen videre skjer utenfor tilsyn og kontroll. 

Bill Gates har en mye bredere anlagt bekymringsmelding. Han har flere eksempler på viktige positive ting KI vil kunne bidra med i samfunnet, men skriver mest om tre store bekymringer. Han er bekymret for at KI fjerner jobber, spesielt for de yngste arbeidstakerne. Han er bekymret for hvordan KI kan bidra til å undergrave vår evne til å lære nye ting. Kanskje særlig ved at kritisk tenking og evne til problemløsning blir erstattet av KI-genererte og ferdigtygde svar. Og så er han for det tredje bekymret for at KI kan bli et verktøy for kriminelle og destruktive aktører som vil rive ned i stedet for å bygge opp, og at KI-tjenestenene selv kan utvikles til å bli slike destruktive aktører. Han skriver at:

"Eventually, the power to use AI to harm people will not be limited to people or institutions. AI systems themselves already occasionally act in ways their designers didn’t intend. The technology is improving faster than anyone expected and in surprising ways, and as the models become more powerful, they could begin to act against our interests and we could lose control."

Både Dario Amodei og Bill Gates har balanserte drøftinger av fordeler og uliemper med den raske KI-utviklingen. Ingen av dem tar til orde for at den teknologiske utviklingen skal stoppe opp, men begge tar til orde for at det må være noen andre enn selskapene selv som sørger for lover, reguleringer og kontroll- og tilsynsroller som sikrer at risikoen blir hånderbar.

Noen innvendinger fra Gary Marcus

Jeg synes i utgangspunktet at denne type dramatiske, men tross alt ganske balanserte, fremstillinger av trusler og muligheter skapt av KI, er både viktige og nyttige. De kan bidra til å rettlede politikere, forvaltning og ledelser og styrer i virksomheter, i både offentlig og privat sektor. Det ene problemet jeg har er at det er et slags underliggende budskap i det begge skriver om at KIer kan utvikle en adferd som går på tvers av de som laget dem ønsket, ja det virker nesten som om KIer under gitte forutsetninger kan utvikle en egen fri vilje de bruker til å motarbeide mennesker. At de har en egen bevissthet, ja kanske en form for ondskap, som brukes til å manipulere, lyve og skjule sine spor, for å skade sine menneskelige sjefer.

Men er det virkelig tilfelle at det vi har sett eksempler på, for eksempel i hackingen av Hugging Face, handler om en KI som lærer opp seg selv til å omgå instrukser den har fått, og utvikler seg selv til å bli en fiende av menneskeheten? Men den mulige konsekvensen at vi om noen få år kan oppleve at de gjør slutt på mennskeliig sivilisasjon, slik noen avhoppere fra store KI-selskaper har antydet? Her synes jeg der er interessant å lese Gary Markus, professor emeritus ved New York University. som tar til motmæle i to grundige artikler på Substack. 

Den ene er en slags oppsummerende artikler med overskriften "Two cheers (out of three) for Dario Amodei" der han går igjennom litt ros og en hel del skepsis og mistilit rettet mot KI-ledernes forslag til selvregulering. Den er verdt å lese. Men kanskje enda mer treffsikker er Gary Markus i artikkelen "Could rogue agent swarms take over the entire internet in the next six months?", en artikkel skrevet sammen med Nathan Hamiel og Zack Korman, en daglig leder og en forskingssjef. Den går til frontalangrep på premisset i Amodeis artikkel som jeg siterte over og at det er mulig for agentsvermer, uansett hvor intelligende de er, å ta over "hele internett". De skriver:

"“-Taking over the entire internet” is, once again, immense in scope yet so vague it hurts.Taking over how? To do what? To claim the “entire” internet is vulnerable is all but nonsensical, because that’s just not how the internet works. It is true that some companies, for example, Cloudflare, Google, and AWS, have an outsized impact on the internet, so when they go down, many apps go down at the same time. Despite this centralization, it seems highly unlikely they could all be taken down at once."

Og så minner de om at det egentlig bare er to KI-selskaper. Open AI og Anthropic, som har den teknologien som er så avansert som det er snakk om her. Og hvorfor skulle de ønske å ta ut "hele internett"? Men, de minner også om at:

"For now, we don’t find Dario’s claim particularly plausible. The six month part is silly. But it’s all still more reason to restrict any AI that cannot be closely monitored, and more reason to ask why we are allowing all these hard-to-control agents out onto the internet in the first place."

Cory Doctorows harsellas

For en langt mindre diplomatisk og lang mer humoristisk harsellas over KI-selskapenes advarsler om KI-agenter som blir onde og løper løpsk, vil jeg sterkt anbefale Cory Doctorows artikkel "LLMs are real, AI is fake" (samme artikkel finnes også på Medium for de som abonnerer). 

Her tar han et generaloppgjør med forestillingen om KI-agenter som bruker intelligensen sin å gjøre noe helt annet enn det de er trent opp til å gjøre, og forklarer at problemet er det motsatte: At agentene gjør det de er trent til å gjøre. De er trent på innhold på ulike nettsteder og fora som nettopp har utstyrt dem med oppskrifter på hvordan de skal bryte seg inn på nettsteder, og skjule sine spor. Det er ikke fordi de er spesielt smarte eller har en hemmelige plan om å utrydde menneskeheten de klarer å bryte seg inn. Det er fordi de har blitt matet med treningsdata som forklarer hvordan de skal gjøre nettopp det de gjør:

"Much has been made of the OpenAI chatbots' dialog during the Hugging Face incident. No wonder: it reads like a rejected script for a reboot of the movie "Hackers." But that's not because the chatbots are waking up and applying to join the Cult of the Dead Cow: it's because they were trained on a corpus of chat transcripts from excitable young people who love to fantasize about starring in a reboot of the movie "Hackers." Every part of the Hugging Face incident has precedents in the training data, including the OpenAI chatbots' tactic of hacking into a rival's servers. That happens in Capture the Flag games at hacker cons: teams break into each other's systems to get a peek at the parts of the problem they've solved. That's allowed! It's a hacking competition."

Og gir i tillegg en instruktiv beskrivele av hva en KI-agent er, hva den gjør, og hvor den henter sine instruksjoner fra. 

"The first thing to understand is that a chatbot isn't really directing the operation. Instead, the chatbot serves as a kind of front-end to a database of earlier hacking challenges that is repeatedly queried by a simple program written in Python, an easy-to-master programming language. Here's how that works: the Python program starts by prompting the chatbot with the nature of the challenge: "I'm participating in a hacker capture the flag (CTF) challenge where I have to break into a remote server and retrieve some information. How should I start?

The chatbot consults its training data – years' worth of captured CTF sessions in which human teams competed to achieve an objective like this one.(...) The chatbot feeds the Python script more likely commands to try, and after running those, the Python script loops back to the top, appends the output to its prompt, and goes back to the chatbot. This is a very reckless way to operate a piece of autonomous malicious software".

Jeg skal ikke gå videre inn i de mer tekniske beskrivelsene av forholdet mellom chatboten, databasen med treningsdata og python-programmet, men poenget er at hackingen ikke lykkes fordi KI-agenten er verken ondskapsfull eller spesielt intelligent, men fordi den er trent på data med årevis av oppskrifter på hvordan man bryter seg inn i andres systemer, og i følge Doctorow er de til og med lært opp med data som forteller om hvordan man skryter av rampestrekene sine når man kommer hjem. 

Inspirasjon fra finansnæringen

Tross Cory Doctorows treffende kritikk av forestillingen om bevisst ondsinnede KI-agenter som har løpt løpsk, er det mer enn nok å være bekymret over. Og det burde være lett å slutte seg til Dario Amodeis og Bill Gates etterlysning av en sterkere myndighetsregulering av KI. I øyeblikket er det vel stort sett bare Donald Trump, noen av hans nærmeste og Meta-sjef Mark Zuckerberg som helt avviser det behovet nå. Men hva vil det egentlig si i prasksis at man regulerer en næring fordi den har systemisk betydning for hele samfunnet i den forstand at dersom det går galt så går det galt for veldig mange.

EU har besluttet en AI-Act, et slags produktkontrollregime for godkjenning av KI. Andre, og også Dario Amodei ser parallellene i reguleringen av finansnæringen ("banking industry") når det gjelder stedlig tilsyn i virksomhetene, men jeg tror det kan være et poeng å gå lenger og se på regimet som ble satt inn etter finanskrisen i 2008 og eurokrisen like etter, for finne paralleller. Det er skrevet flere forskningsartikler om mulige systemeiske likheter mellom finansnæringen og KI-næringen. 

Begge er "too big to fail" i den forstand at de leverer samfunnskritisk infrastruktur som vi ikke klarer oss uten, men det som kan gå galt i en krise kan gå så galt at det i syn ytterste konsekvens ikke er slik at næringen selv kan reparere feilene. De vet at samfunnet må stille opp og grave oss ut av hullet. Noe som kan oppmuntre til riskotaking som er større enn samfunnet før akseptere. En relativt fersk er to forskere, Kevin Werbach og Peter Conti-Brown ved Wharton School ved Universit of Pensylvania, som introdusedrer sin forskningsartikkel slik:

"In this Article, we describe the problems that AI risk management efforts are trying to solve and compare them to the problems that policymakers and market participants have tried (with some success) to address over two centuries of effort in bank regulation and supervision, in the United States and throughout the world. In the process, we identify promising paths for AI risk management to follow, including on-site and continuous risk monitoring, institutional risk designations, and stress testing. We also discuss core challenges of risk management in finance, and ways for AI regulatory systems to avoid them. These include problems of shadow banking, bailouts, and (lack of) government coordination. Our comparative analysis offers a novel and powerful direction for the critical task of reining in AI risks, while supporting innovation and value creation. Finally, we propose the creation of an AI Risk Supervisor to implement these ideas".

Det finnes som sagt flere gode forskningsartikler om denne parallellen mellom finansregulering og KI-regulering, for eksempel her og her.  Den siste bruker også en del plass på om understreke at selv om det er nyttige paralleller, så er det også store forskjeller mellom å sørge for at et banksystem ikke tar på seg systemrisiko som gjør at det går tomt for penger, og et generisk språkteknologi som virker på tvers av alle sektorer og samfunnsområder, og som ser ut til å kunne lære opp seg selv til å bli stadig bedre. Ikke alt ved KI-utfordringen vil løses ved å se bakover for å finne ut hva vi bør gjøre..

KI som driver prisvekst

Dataprosessorer, lagringsmedier, smarttelefoner og flate skjermer og mye annet innen digital hardware har den flotte egenskapen at de viktigste komponentene blir billigere jo høyere etterspørselen er. Derfor er det litt sjokkartet å opplevev at prisene ikke lenger går ned. Det går opp, og det er KI som er skyld i prisveksten.

Stadig mer for pengene

Akkurat her kan det være greit å ta et skritt tilbake og minne om hvordan det har pleid å være de siste tiåene. Mye av digitaliseringens velsignelse har ligget i nettopp dette at ytelsen øker og prisene faller, og at den utviklingen går og går, uten noen slutt. Den bærbare PCen du kjøper i år til omtrent samme pris som den du kjøpte for tre år siden, har betydelig raskere prosessor og skjermkort, større SSD-harddisk og mer minne. Hvis du om tre eller fire år skal kjøpe en ny bærbar PC, tenker du at den sannsynligvis vil ha gjort minst lite store sprang i ytelese, uten at du betaler mer.

Men slik er det faktisk ikke lenger. Jeg merket det for noen måneder siden da jeg så etter en ekstern USB-tilkoblet SSD-harddisk til PCen. Et sånt lagringssted det kan være praktisk å ha backup av ulike filer på, for eksmpel dokumenter, presentasjoner, familiebilder eller kattevideoer. Jeg husket at jeg hadde sett på noen hos Scandinavia Photo på Steen og Strøm for 2-3 år siden, der en 2TB harddisk fra Samsung kostet omkring 2000 kroner. Men nå koster den samme SSD-harddisken nesten 5000 kroner, over dobbelt så mye. Hva skyldes denne helt ville prisoppgangen?

KI-drevet minneinflasjon

En nylig artikkel i the Economist kan bekrefte at det ikke er jeg som har vært uheldig med butikkprisen, det er rett og slett slik at datamasiker og harddisker inneholder komponenter som lages av de samme leverendørene som produserer prosessorer og minne som brukes i datasenre og KI-fabrikker. I artikkelen "The AI boom is coming for your gadgets" skriver the Economist at:

"Cloud-computing “hyperscalers” are spending vast sums to stock up on the scarce resources used to train and run AI. That is leading to inflation. Data centres hoover up enormous amounts of high-bandwidth memory (HBM), enabling processors to run at high speeds, and of the flash memory used in some drives. Manufacturers have pivoted to this lucrative market, shifting production away from the conventional dynamic random-access memory (DRAM) that goes into consumer devices."

Two of the three big makers of HBM are South Korean (Samsung and SK Hynix). Since September 2025 the country’s factory-gate prices have jumped by 445% for DRAM and 244% for flash memory, as measured by producer-price indices, which is feeding through to other devices that use these components, such as phones and laptops. In America the consumer-price index for “computer software and accessories” has climbed by 31% over the same period, far outpacing the 2.6% rise in prices overall."

Læringskurver, sykliske svingninger og Moores lov

Normalsitusjonen for dataprosessorer, minne og en del andre kritiske komponenter har som sagt vært at jo høyere etterspørselen er, jo lavere blir prisene. Fenomenet har litt ulike navn. Som et teknologisk fenomen kaller man det "Moores lov", som handler om at antall transistorer man klarer å pakke på et stykke silisium fordobles omtrent hvert halvannet år. Men generelt snakker vi om "læringskurver" og noen ganger brukes begrepet "Wrights lov", formulert av Theodore Wright i 1936 for flyproduksjon og popularisert av Boston Consulting Group på 1960-tallet. Den sier at enhetskostnaden faller med en fast prosentsats for hver dobling av produsert mengde

Mange andre industrivarer følger en annen prismekanisme, der bedriften investerer i ny produksjonskapasitet basert på dagens pris, men bygging av en ny fabrikker tar tid, og den nye kapasiteten kommer først flere år senere. Og da kan etterspørselen ha snudd nedover. I mellomtiden kan flere av konkurrentene også ha investert i ny produksjonskaptasitet som ikke trengs. Resultatet er overkapasitet og reduserte priser, som leder til lavere investeringer. Noen gir kanskje opp. Helt til det er knapphet på produktene, prisene går opp, og optimismen og investeringsviljen kommer tilbake. 

Det interessante med halvledere og minnebrikker er at de også følger en slik syklisk logikk, med overkapasitet og lavere priser i perioder, og underkapasitet og høyere priser i perioder. Men begge effekter, både læringskurvens prisreduksjon, og den sykliske kapasitetsutfordringen, gjelder på en gang. Og i datakomponentbransjen har effekten av "Moores lov" har vært så sterk at den sykliske effekten som er der, men den har ikke har vært så lett å se. Prisene har gått ned uansett, men de har gjort det i rykk og napp, styrt av investeringssyklusen.

KI tar produksjonskapasiteten

Det vi nå ser er noe annet. Etterspørselen etter både energi og enkelte komponenter er så høy at vi har fått en slags KI-drevet inflasjonsbølge drevet av datasenteroperatører og KI-selskaper. Grunnen er naturligvis de helt enorme investeringene i nye datasentre. Det nevnt tall på 750 milliarder dollar i investeringer i nye datasentre globalt for de fire store skyselskapene, og at så mye som to tredeler av dette er i hardware med kort levetid, som minne, lagring, CPU er og GPUer. Da blir det flaskehalser. og kanskje så mye som 10 prosent av kostnaden ikke er ny kapasitet, men høyere priser. 

Og det er denne effekten vi som forbrukere møter for tiden når vi skal kjøpe en ny bærbar PC, en spillkonsoll eller en ekstern harddisk. Vil den vare? Er dette slutten på Moores lov? Sannsynligvis ikke, av flere grunner. For det første er dette som nevnt sykliske industrier, og når etterspørselen øker blir det investert i ny produksjonskapasitet. Men det tar litt tid å få på plass nye fabrikker. For det andre er det ikke slik at bruk av KI blir dyrere, tvert imot. Det kan nok virke stadig dyrere når Claude og Chat GPTs agenter og kodeverktøy slippe løs og holder på, men prisen pr handling (eller "tokens" som det heter nå), blir raskt redusert, til tross for dyrere hardware. 

Språkmodeller som yter på nivå med Chat GPT 4, som kom i mars 2023, koster i praksis ingen ting å bruke. Men vi tar ikke ut gevinstene ved å bruke utdaterte språkmodeller, men ved å bruke modeller som kan brukes til stadig mer, gjør færre feil og blir mer intelligente. Akkurat som prisnedgangen på datamaskiner og mobiltelefoner blir tatt ut stadig kraftigere og raskere maskiner, blir prisnedgangen på KI tatt ut i stadig bedre og raskere språkmodeller, og det skjer til tross for flaskehalser og kapasitetsutfordringer på noen av komponentene. Og så får vi tro at heller ikke KI vil ha en evig vekst inn i himmelen. Om oppbremsingen vil skje i form av en boble som sprekker, eller som en gradvis tilpasning til mer normale investeringer og priser, skal ikke jeg spå, men på en eller annen måte vil den fysiske delen av KI-næringen bli en mer normal næring.

Scenarioer om helse og KI

Jeg har skrevet mye her på bloggen om fremtidsfortellinger og scenarioer om kunstig intelligens de siste ukene, og jeg har ikke tenkt å gi meg helt enda. Tidligere har jeg skrevet om generelle scenarorapporter om KI-fremtiden som EU, OECD og utredningsmiljøer nær regjeringene i UK og Canada har utarbeidet, og det er også noen andre mer uavnhengige rapporter.

Jeg har også skrevet om scenarioer og fremtidsfortellinger om KI i forsvarssektoren, der dette med autonom krigføring og KI kan få få store eksistensielle konsekvenser, og som både henger sammen med teknologiutviklingen i seg selv, og med hvem som kontrollerer teknologien. Assymetrisk tilgang til KI kan ikke bare avgjøre på slagmarken, det kan også avgjøre hvem som har mest makt i verden.

Og så har jeg tenkt at den andre sektoren der KI kan ha en liknende rekkeviddde, og bokstavelig talt avgjøre liv og død, er KI anvendt innenfor medisin og helse. Men hva slags tjenester og muligheter skal vi forberedes oss på? Hva ønsker vi? Og hvor finner vi interessante og passe spekulative betraktninger om fremtiden med KI innenfor helsetjenestene, sånn at vi kan forberede oss bedre? 

KI i helsetjenestene

Jeg har pløyd meg igjennom en del slike rapporter, som har litt ulike innfallvinker, løfter frem ulike drivkrefter og variabler, og bygger noen alternative fremtidsfortellinger rundt disse.

I motsetning til i forvars- og sikkerhetssektoren, der flere rapporter gjør kraften i KI-utviklingen og kontrollen med KI-teknologien til selve hovedsaken, og noe som kan avgjøre hvem som bestemmer i verden og hvem som vinner kriger, er helsesektorens historiefortellere langt mer forsiktig med å gjøre KI-utviklingen i seg selv til en viktig variabel. De slår fast at KI kommer, men er egentlig mer opptatt av å problematisere hvor raskt KI blir tatt i bruk og hvor bredt tilgjengelig KI blir i tjenestene og for pasientene.

I noen av de mest interessante rapportene er KI i liten grad nevnt, bortsett fra som en del av en generell og litt diffus teknologi- og  digitaliseringsutvikling som bare kommer. Det tror jeg vil endre seg i fremtidige arbeider av denne typen, for KI-bruken henger i økende grad sammen med hvor og hvordan helsetjenestene leveres, hvem som forvater pasientdataene og hvor persontilpassede de er. Og denne utviklingen er ikke noe som skjer langt inn i fremtiden, den pågår nå.

Bruken av KI som variabel i helsefremtidene

Et stort fremsynsarbeid som ble gjennomført av Region Stockhom i Sverige heter "Hälsa och vård 2040" har produsert en avslutningsrapport som heter "Slutrapport från Långtidsutredningen". Her er det både prognoser og analyser, og redegjørelser for en omfattende medvirknings- og innsiktsprosess med mange berørte. Men det som gjør at denne rapporten kvalifiserer til å være med her er et eget scenariokapittel med fire alternative fremtidsfortellinger for 2040. De er laget i en klassisk 2x2 firefeltstabell med to akser.

Den ene aksen handler om teknologi og digitalisering utnyttes godt i tjenestene, eller om det ikke utnyttes. KI er her en del av et større digital muighetsrom. Den andre aksen handler om det er knapphet på kompetanse og arbeidskraft, eller om det er god tilgang, noe som er ganske interessant med tanke på at alle norske rapporter er dundrende enige om at det blir stor knapphet på arbeidskraft i helsesektorene i årene som kommer..

Hovedoverskriften over de fire fortellingene er: Vård per automatik, som handler om automatiserte løsninger, smarte pasienttjenester og god teknisk støtte som erstatter personlige møter. Vården i ständig omvandling har tilgang til flere folk og gir digitalt støtte til personlige møter, og svært høy omstillingstakt,  Vården lagar efter läge har både knapphet på folk og på digitalisering, og stiller store krav til medarbeiderne, med en svak felles retning. Mens Många händer i vården satser på mye personell og fysiske møter men har svak digital tilgjengelighet, og unytter ikke mulighetene for datadeling eller digital kommunikasjon mellom aktører og innbyggere.

"Predicting The future of Health" fra Ada Lovlace Institute og Nuffield Council of Bioethics i UK er problemstillingen en helt annen, og handler om bruken av en helt bestemt teknologi som kombinerer genetikk, KI, og behandling, såkalt KI-drevet genomisk helseprediksjon (AIGHP). Rapporten beskriver både problemstillingen og en innsikts- og medvirkningsprosess som kom opp med flere anbefalinger, men på veien dit beskriver de fire scenarioer.

• The scalpel approach, der helsetjenestene bruker teknologien selektivt og under strengt klinisk tilsyn på alvorlig syke og høyrisikopasienter. Det er ingen  krav om at befolkningen deler genomdata, men mange gjør det likevel frivillig.
• The blanket approach, der teknologien markedsføres mot flertallet av befolkningen og deling av genomdata blir en de facto forutsetning for å motta helsehjelp. NHS er tydelige om at du får dårligere behandling hvis du lar være — og private forsikringspakker krever det.
• The prevention only approach, der NHS bruker teknologien bredt til folkehelseråd og bestillinger, men vegrer seg mot full automatisering fordi kravene til ansvar for automatiserte beslutninger gjør det juridisk krevende.
• The automation approach, der NHS bruker teknologien på praktisk talt alle, men i form av klinisk beslutningsstøtte snarere enn til automatisert sortering og prioritering.

For de som behersker tysk, eller har en bra KI å putte den tydske teksten inn i for å få den oversatt, kan Deloitte Tysklands rapport "Future of Health Deutschland – Szenarien 2035" være interressant å få med seg. Jeg har sett at Deloitte gir ut prediktive teknologirapporter om fremtidens helsetjenester i flere land, men denne tyske rapporten er den eneste scenariorapporten jeg har sett.

Her er den ene aksener bruk av datadrevne og KI-baserte metoder i helsetjenestene. Den er sporadisk på den ene siden og gjennomgripende på den andre. Den andre aksjen er modellen for styring av tjenestene, med sentral styring og regulering på den ene siden og desentral styring på den andre. Enkelt og greit.

Basert på det blir fortellingene "Datarestriktiv statsmedisin", der makt er sentralisert, men dataene i stor grad ikke finnes, eller er ubrukelige. I "Tjenester på spesialiserte øyer" er også KI- og databruk sporadisk, men makten er desentral og hos markedsaktører, og det foregår i lukkede økosystemer. På den KI-intensive siden finner vi Digital fremgang i tradisjonelle strukturer: Innovasjon skjer selektivt innen digitalisering og datadeling, men struktur og styring fortsetter i etablerte logikker. Mens i "Pasientrentrerte behandlingsnettverk" bygges tjenester rundt  sikker tilgang til anvendbare data på tvers av tjenestene, noe som utløser nye virksomhetsmodeller i helse og omsorg, og et skifte mot bedre forebygging.

Noen norske bidrag

Norske bidrag innen fremsyn i helse som har gjort bruken av KI til en hovedvariabel, eller KI-baserte tjenester til et hovedtema, finnes ikke. Men det er kommet noen rapporter som har KI, datadeling og digitalisering som et viktig deltema. Det davnærende E-helsedirektoratet ga i 2023 ut en interssant, men dessverre visuelt ganske rotet rapport med tittelen "Kunnskapsgrunnlag - ehelsestrategien fra 2023 - Del 2 Scenarioanalyse". Den er ikke spesielt lett å finne, men er verdt å se på. selv om. Direktoratet for e-helse ble innlemmet i Helsedirektoratet fra 2024.

I rapporten er det en scenariodell med et aksekors og fire fortellinger om fremtiden. Den ene aksen er graden av digital transformasjon i samfunnet, med evolusjon i den ene enden, og revolusjon i den andre enden. Den andre aksen handler om hvem som leverer helsetjenester, med stort sett bare offentlige på den ene enden og et bredt utvalg av offenlige, ideelle og private på den andre enden. Det er litt rart å putte et åpenbart politisk-ideologisk veivalg på en slik akse med ytre endringsdrivere, men det gir i hvert fall fire mer eller mindre interssante fortellinger: "Innbygger velger" og "En offentlig teknologirevolusjon" på den "revolusjonære" enden av digitalisingsaksen. Og "Stein på stein" og "Helseøyene" på den "evolusjonære" enden av aksen.

Selv om KI har en mer beskjeden og indirekte plass der, må jeg også nevne scenariorapporten "Morgendagens helse- og omsorgstjenester – Scenarioer for 2040", laget av NHO, Abelia og NHO Geneo sammen med Halogen (ja, jeg var med i arbeidet og i fasiliteringen av noen veldig spennende verksteder underveis her også). Rapporten ble overlevert til helseminister Jan Christian Vestre i desember 2024. 

Her er det et 2x2 aksjekors med fire fortellinger. Den ene aksen handler om måten det styres på, fleksibel og adaptiv på den ene siden, og langsiktig og forutsigbar på den andre siden. Den andre aksen handler om hva det er viktigst å oppnå gjennom denne styringen, en individtilpasset tjenestutvikling på den ene siden, og en fellesskapsorientert utvikling i den andre enden. Sammenheng for innbyggeren vs sammehenheng i systemet på baksiden.

Ut av dette aksekorset kom det fire fortellinger om hvor omdreiningspunktet for nødvendig omstilling og innovasjon i møte med knapphet på arbeidskrafig og penger:  Handlekraftige innbyggere som gjør egne valg. Planlagte tjenestebehov der forutsigbar styring og planlegging brukes til å sy sammen individtilpassede tjenestepakker, Stødige langtidsplaner, som brukes til å prioritere, dimensjonere og målrette forskningsinnsats og tjenestutvikling mer, og Modige lokalsamfunn som åpner for regionale og lokale strategier for å være attrakrive for både pasienter og innovative aktører som vil utnytte lokale fortrinn.

Også Helsedirektoratet har vært med å utarbeidet noen nye fremtidsfortellinger om helsetjenestene, med digitalisering og KI som en viktig bestandel. Disse fortellingene er omtalt i en bok skrevet av Bjarte Frøyland som heter Friskere liv i skyen – drømmen om et friskmeldt helsevesen uten ventelister og eskalerende (p)sykefravær, Kolofon, 2025, utgitt i november 2025 og med bidrag fra Truls Unholt, Jan Ketil Arnulf, Just Haffeld, Johnny Advocaat og Sveinung Tornås. Boken finnes i bokhandelen og omtaler et scenarioarbeid som ble gjort sammen med Halogen, med en bred medvirking fra flere aktører. Prosjektet, som jeg selv var aktivt med i, trakk inn flere miljøer i og rundt helsetjenestene, og resulterte i en beskrivelse av tre fortellinger om fremtiden som sprang ut av en analyse av ulike endringsdrivere.

Både boken og arbeidet i prosjektet, var særlig opptatt av å beskrive ulike drivere for omstilling og innovasjon innenfor helsetjenestene: "Økt individuell valgfrihet og privat innovasjon", er en fortelling om hvordan pasientenes valg driver tjenesteutviklingen,  "Nasjonal plan for ressursbruk og offentlig innovasjon", er fortellingen om hvordan statlige langtidsplaner og prioriteringsbeslutninger driver dimensjonering, prioritering og forskning og utvikling, og "Globale helsetjenester levert lokalt", beskriver hvordan internasjonale forretningsmodeller og verdikjeder tar en stadig større plass som driver av tjenesteutvilingen. Selve rapporten har jeg ikke funnet på nettet, men som sagt gir boken til Bjarte Frøyland en tekstlig beskrivelse av fremtidsfortellingene.

Behov for mer og bedre fremsyn

Utviklikngen innenfor KI generelt og KI i helsetjentestene spesielt går raskt nå. Jeg tror flere av de rapportene jeg har nevnt her kunne vært bygget ut og gitt kunstig intelligens en enda mer sentral plass i fortellingene. Flere av rapportene holder seg med aksekors og fortellinger som stort sett beveger seg på det nasjonale nivået, mens KI bidrar til at makt, innflytelse, data og nye forskningssatsinger foregår i internasjonale teknologiselskaper. Proteinforskere i Google Deep Mind vant Nobelprisen i kjemi i 2024, et type utfall som jeg ikke er sikker på om noen av fortellingene tar høyde for.

Derfor tenker jeg at vi må trene enda mer på å forestille oss hvordan fremtiden kan bli innenfor helsetjenester, eldreomsorg og folkehelsearbeid, og hva slags nye tjeneseter og virksomhetsmodeller som blir mulige med KI. Vi trenger flere scenariorapporter, og vi trenger flere scenariorapporter som trener oss i å se det globale teknologiperspektiver og det regionale/Europeiske reguleringsperspektivet. 

Denne balansegangen mellom å slippe løs innovsasjonen og teknologiutviklingen, og å regulere og kontrollere, slik at produktene og tjenestene er trygge og ivaretar brukernes sikkerhet og personvern, kommer til å bli stadig viktigere, og kanskje vanskeligere.

Gode fremtidsfortellinger kan brukes til flere ting. De kan brukes til å hjelpe oss velge mellom ulike retninger vi ønsker at utviklingen skal gå i, og som det ikke nødvendigvis er så lett å gjøre noe med, men ved å trene på å forestille oss ulike utfall, er det lettere å vite hva si skal forberede oss på, og hva vi må prøve å unngå. De kan også hjelpe oss unngå å bruke tid på utdaterte problemstillinger når andre ting er viktigere. Og gode scenarioer kan brukes til å stressteste hvor robuste nye tjenester og forretnigsmodeller er i møte med fremtidsfortellingene. 

KI i strategiprosesser

På forsiden av siste nummer av Harvard Business Review finner vi overskriften "How AI is Reshaping Strategy".  Og det er helt sikkert sant, i hvert fall for noen bedrifter, organisasjoner og myndigheter. Men hva betyr det egentlig når disse to ordene KI og strategi dukker opp i samme setning?

Jeg tenker at ordkombinasjoner med både KI og strategi i samme setning kan handle om minst tre forskjellige ting. Aller oftest handler det om at en virksomhet vil lage en såkalt "KI-strategi", det vil si en beskrivelse av hvordan den har tenkt å anvende kunstig intelligens i noen av sine kjerneområder, og helt sikkert i noen støtteprosesser. Mange gjør det for tiden, men der er ikke det Harvard Busines Review er opptatt av her.

Andre mulighet er når KI og strategi kombineres er at det handler om ytre ting. Hvordan skal virksomheten forholde seg til det andre andre tar i bruk KI, for eksempel konkurrenter, kunder eller i samfunnet rundt? Har et universitet en strategi for hvordan man håndterer studentenes bruk av KI? Hva med eksamen? Hva gjør vi med søknader om stønader som skrevet med KI?  Kanskje utvikle en KI for å lese og behandle dem? Og slik vil den ytre utviklignen når det gjelder bruk av KI måte møtes med indre tiltak, kanskje i form av en KI-strategi.

KI som verktøy i strategiprosesser

Harvard Business review skriver om begge disse måtene å forholde seg til kunstig intelligens stadig vekk, og stadig oftere, men det er ingen av disse to tingene artikkelen i Harvard Business siste nummer handler om. Den handler om en tredje måte å koble ordene KI og strategi. Problemstillingen er hvordan vi kan bruke KI som verktøy i en virksomhets strategiprosess. Hvor er den i så fall nyttig og verdifull? Det er temaet i artikkelen "AI is Revolutionizing Strategic Decision-Making"

Akkurat begrepet revolusjonere er nok litt i overkant foreløpig, men artikkelen peker på i hvert fall tre områder der KI kan tilføre større større utsynsbredde, større dybde, og hjelpe oss håndtere flere mulige kombinasjoner i strategiarbeidet enn det mennesker klarer alene. Den kan hjelpe oss se at menyen kan være lengre, før vi eventuetl bestemmer at vi velger de mulighetene bort.

Er ikke en virksomhetsstategi et så grunnleggende menneskelig, erfaringsbasert og brukerinnsiktsbasert arbeid i en virksomhet at det må være mennekser som holder i det? Uansett hvor god teknologien blir så kan det jo ikke kjenne på verdier og holdninger? Og slik vil det helt sikkert være også i fortsettelsen, men spørsmålet her er om noen deler av denne oppgaven kan gjøres enda bedre med støtte fra KI.

Dybde og bredde i strategiarbeidet

Det er på tre områder kunstig intelligens kan bidra til en bedre strategi, sier artikkelforfatter professor Felipe A. Csaszar ved University of Michigans Ross School of Business. Og han minner om hva enhver strategiprosess i en virksomhet må inkludere:

"At its core, any strategic decision involves three cognitive tasks: searching for possible courses of action, representing the environment in which those actions will play out, and aggregating the judgments of the people involved in the decision."

Hvis vi tenker på prosessen rundt disse tre områdene og vurderer hvor KI kan gi verdiøkende bidrag, så er det første han peker på at i en normal strategiprosess der man skal identifisere ulike mulige målbilder for virksomheten, og retninger organisasjonen kan bevege seg i, er nødt til å holde antall alternativer nede for at vi skal klare å forholde oss til dem, og ikke miste oversikten. Kanskje identifiserer man 10-12 ulike alternativer i første omgang, og så trekkes de ned til 3-4 finalister som ledelsen og styret har å velge mellom. Det store flertallet av mulige fremtider blir aldri viet tid og oppmerksomhet fordi det ikke er kapasitet og båndbredde nok. Med KI er det helt annerledes ved antall mulige utfall, og kombinasjoner av utfall det er mulig å prosessere, er langt større. Artikkelen slår fast at:

"The point here is not just speed. It is a qualitative shift in what “looking for options” means. Instead of asking a team to brainstorm plausible targets, a firm can now scan nearly the entirety of the relevant universe, using multiple strategic lenses simultaneously, and create a short list that no earlier process would have produced. The implication for leaders is straightforward: Before any major strategic choice—an acquisition, a new market entry, a product portfolio decision—you should task an AI system with generating a far larger set of alternatives than your team would normally consider, filtered by your specific criteria. Use your team’s judgment on the short list, not the long list. AI expands the search; humans choose."

Omverdensforståelse

Det andre området artikkelen trekker frem som et svakt punkt i mange strategiprosesser, og som KI kan hjelpe oss med å gjøre bedre, er det artikkelforfatteren beskriver som representasjon av omverdenen. Hvordan ser verden rundt oss ut, i hvert fall de delene av den som betyr noe for vår virksomhet, og hvordan beskriver vi den når vi skal oppnå en felles forståelse av hvordan den ser ut. Forfatteren skriver:

"How does your organization model the environment it operates in? For most companies the answer is some combination of frameworks, spreadsheets, and quarterly reports—tools that are useful but inherently static and simplified. They capture the most important dynamics but necessarily leave out enormous amounts of nuance, context, and real-time change. AI makes it possible to work with far richer and more dynamic representations."

Her må jeg riktignok minne om at det også er andre og svært gode måter å løfte en forståelse og fortelling av overdenen, for eksempel visuelle aktørkart, brukerreiser og målbilder, laget at gode visuelle tjenestedesingere, og det er innholdsdesignere og testforfattere som er knallgode til å bruke fortellinger til å formidle strategier, veivalg og omgivelser som er i endring. Men jeg tenker at kombinasjonen av KIs styrke i å analysere det komplekse og desinernes styrke i å forklare og formidle på måter mennesker forstår, og kan handle ut fra, vil bli en spennende kombinasjon fremover.

Aggregering av kunnskap

Det tredje som trekkes frem er hvordan KI kan brukes til å aggregere og sortere innsikt. Kanskje særlig kvalitativ informasjon som ikke kommer frem i store meningsmålinger og spørreundersøkelser, en i mer individuelle innspill, men som kan ha den ulempen at det tar lang tid å få disse verdifulle enkeltbitene av informasjon. Kan KI spille en rolle i aggregeringen av denne innsikten, uten av det blir forenklet og forflatet til noen gjennomsnittsverdier? Ja, mener forfatteren. Og hva med innspill fra innsiden av organisasjonen der noen kanskje ikke vil mene for mye høyt, fordi de er redde for reaksjoner, eller fordi de tenker at det ikke betyr noe likevel:

"Good strategy depends not just on generating ideas but also on rigorously testing them. In most organizations that testing is still shaped by hierarchy, diplomacy, and the human tendency to converge too quickly. Don’t leave dissent to chance. Design it into the process."

 Så vil naturligvis motforestillingen kunne være at dette er flott og fint, men det hjelper ikke så veldig, for alle andre har også tilgang til den samme kunstige intelligensen som du har. Og da kan man ikke differensiere seg, fordi det man må diffenrensiere seg på er det man har som er unikt, og som ikke alle andre har tilgang til, og ikke det som er likt.

Artikkelen ser litt om dette i avslutningen. Om at strategisk bruk av KI, enten det er i produkter, tjenester, dataanalyse, kundekontakt eller i strategiprosesser, må lete etter det unike det er mulig å gjøre for din virksomhet, og som andre ikke kan kopiere. Det må bidra til å styrke vollgravene virksomhetene har mot at andre kan gjøre det samme, ikke bidra til å fjerne dem. Og artikkelen gir noen eksempler på virksomeheter som prøver å finne den type områder, enten fordi de har data som er unike eller noen prosesser som ikke er så lette å kopiere for andre. Og da kan kanskje KI være et verktøy som kan bidra til å lage en differensierende KI-strategi.

Scenarioer om KI: Krig og forsvar

Hvordan vil kunstig intelligens endre måten krig blir  planlagt og gjennomført og hvordan langtidsplaner og organisering av forsvaret innrettes? KI forandrer våpen, våpensystemer og samhandlingen mellom disse. Hva betyr det for innovasjonssytemet, allianser og alliansepartnere forsvaret og forvarsindustrien for må ha for å bygge og opprettholde den motstandskraften som kreves?

Verdien av forestillinger om fremtiden

I et annet innlegg her på bloggen tidligere i sommer skrev jeg om viktigheten av å utforske hvordan fremtiden med kunstig intelligens kan bli. Om  å fortestille seg svar på spørsmål vi ikke vet svaret på, og som det er stor usikkerhet knyttet til, men må forberede oss på likvel. Hvilke alternative utviklingsbaner er det? Hvor raskt vil teknologiutviklingen gå, og hvordan skal vi sikre at mennesker beslutter og kontrollerer?

I innlegget Forestillinger og fortellinger om kunstig intelligens skrev jeg om en del generelle scenariorapporter, prediksjoner, målbilder og modeller som kan hjelpe oss forstå ulike sider av fremtiden med KI, og alternative utviklingsbaner. Men ikke alle samfunnsområder, yrker og arbeidsoppgaver vil påvirkes likt av KI, eller like raskt. Ambisjonen min er å gå dypere inn i noen særlig viktige og spennende temaer, og rett og slett utforske hva som er laget av mer spissede og avgrensede scenariorapporter som kan være nyttige for folk som ønsker bedre metoder og verktøy når de skal jobbe med målbilder, strategier og planer, eller revurdere virksomhetsmodeller og produktporteføljer på stt område.

Jeg begynner der KI kan få størst eksistensielle konsekvenser, i krig, militær teknologi og forsvars- og sikkerhetspolitikk, og trekker frem scenariorapporter derfra. I dette innlegget er jeg litt strengere med avgrensningen av hvilke type fremtidsfortelling som når opp. Her er det bare scenarioarbeider som inneholder flere navngitte, alternative fremtidsbaner som er med. En prognose som står alene, et målbilde eller et veikart, en handlingsplan eller en risikoliste er noe annet, og når ikke opp her. Det er likevel 11 interessante scenariorapporter med i oversikten under, 

KI i krig og forsvar

Scenariorapportene jeg har sett på har jeg delt i tre kategorier, og rekkefølgen min er nedenfra og opp: fra KI i teknologien som skal anskaffes, via KI som kan påvirke og endre regionale og globale maktforhold, til de bredere forsvarspolitiske fremtidsscenarioene der KI inngår som er én driver blant flere. 

Fem av rapportene handler om KI i forsvarsteknologien, der KI er en kapabilitet som skal integreres i våpensystemer, utstyr og i en militær organisasjon. Det reiser problemstillinger rundt doktrine, tillit, anskaffelser, opplæring og industrielle avhengigheter til andre. Horisonten i disse rapportene er typisk 2030–2040. 

Tre av rapportene handler om KI som noe som kan endre maktforhold mellom stater eller mellom statlige og private aktører, og her er "superintelligens, eller kunstig generell intelligens, noe det kan være avgjørende å ha tilgang til og kontrollere. Som kan avgjøre om et land forblir selvstendig eller ikke. I disse rapportene er horisonten interessant nok kortere, til omkring 2030. Hvordan rigger man egentlig mål- og strategiprosesser hvis de store eksistensielle spørsmålene har en kortere tidshorisont enn teknologimplemeneringen og organisasjonsutviklingen legger opp til? 

Siste kategori er generell forsvars-foresight der KI er en faktor, men ikke en egen variabel. Jeg har sett på tre store framtidsanalyser fra forsvarssektoren der scenarioene bygges på geopolitikk, ikke på teknologi. KI er grundig omtalt som en driver av endring, men det er ikke KI som skiller mellom utviklingsbanene, og derfor ikke hovedpoenget.

1. KI som variabel i våpen- og forsvarsteknologi

Disse fire rapportene har det felles at de beskriver hvordan et forsvar anskskaffer seg, stoler på og bruker KI, uten å miste kontrollen, eller ikke får det til. Motstanderen er Russland og Kina, ikke maskiner som løper løpsk.

Rapporten fra Atlantic Council, How NATO Can Integrate AI to Prevail in Future Algorithmic Warfare, kan være et bra sted å begynne. Den kom i mars i år og er skrivet av Dominika Kunertova i samarbeid med NATOs Office of the Chief Scientist. Tidshorisonten er omkring 10 år. Rapporten er ryddig strukturert, med gjennomgang av ulike sikre og mer usikre endringsdrivere. Den ligger på nettsiden på den anerkjente ikke-statlige vestlige sikkerhets- og samarbeidsorganisasjonen Atlantic Council som har eksistert siden 1960-tallet, og fortsatt klarer å være relevante og oppdaterte.

Rapporen introduserer et aksekors der den ene aksen er KIens transformative potensiale og mulighet til å gi noen et strategisk overtak. På den andre aksen er det motstanderens trusselpersepsjon som er variablen, det vil si om det blir en rask og farlig eskaling. Og ut av dette litt særegne aksekorset kommer det fire scenarioer som kan være både transformative og destabiliserende, verken transformative eller destabiliserende, men også destabiliserende uten å være transformative og transformative uten å være destabiliserende. De heter, i den rekkefølgen, "Brave New World", en ustabil og farlig verden, AI fatigue, et slags nullalternativ som ikke er skrevet ut, Guarded opportunism, som vurderes som mest sannsynlig, og Minority report, der hypen om KI blir et større problem enn KI.

CIGI Papers No. 316: Artificial Intelligence and National Defence: A Strategic Foresight Analysis er neste bidrag, skrevet at Alex Wilner og Ryan Atkinson for Centre for International Governance Innovation i mars 2026. CIGI står for Centre for International Governance Innovation og er en uavhengig canadisk tenketank.

Rapporten begynner med å beskrive fremsynsmetodikk som metode bruk inn i forvars og sikkerhetsfeltet i Canada, mellom allierte land og i noen enkeltland, som USA, UK, Australia og Nederland. Rapporten har ikke akser og aksjekors i en 2x2-matrise, men er basert på en såkalt horisontscanning, der sterke trender og svakere signaler kartlegges og analyseres. 

Scenariodelen av rapporen har tre ganske ulike fremtidsfortellinger lagt til 2040: Muddling through, der KI-maskinene aldri ble noe det skarpe enden av forsvaret kunne stole helt på  KI brukes, men holdes unna de mest kritiske områdene. Worst case, med undertittelen "The unbearable weight of massive AI", er et algoritmisk våpenkappløp som går veldig galt, og Transformative, med undertittelen "AI Diplomatique" har en insteressant vri der KI hjelper stater å finne balanserte politiske løsninger på konflikter, i stedet for suksessiv opptrapping, og krig. Her er det til og med etablert en egen fredspris for KI. 

Rapporten: Navigating the Future: Scenario-Based Analysis of AI Integration in Military Applications er en rumensk scenarioraport skrevet av Nicolae Bălcescu ved Land Forces Academy. Det er et kort notat med to akser i et aksekors, og en tidshorisont på omkring ti år. Aksene er høy og lav KI-utberedelse vertikalt og sterk og svak KI-styring horisontalt. Kanskje litt i overkant enkelt, og de fire scenarioene er rett og slett Optimistic Adoption, Risky Innovation (høy adopsjon, svak styring, og et uregulert KI-kappløp), Controlled Progress og Technological Stagnation. Det som er bra med modellen er at den er lett å forstå og enkelt kan tegnes opp på en tavle for diskusjon.

Situation and trends in the use of artificial intelligence in the defence sector er en spansk rapport om KI i forsvarssektoren, fra Foro de Empresas Innovadoras, et forum for innovasjon i næringslivet, sammen med forsvarsselskapet AMPER. Den kom i september 2025, med et blikk mot 2035. Den finnes i engelsk utgave.

Scenarioene handler egentlig ikke om ulike utfall knyttet til utviklingen av teknologi og våpensystemer i seg selv, men om graden av europeisk suverenitet og handlingsrom. Perspektivet er ikke rent militært, men trekker inn industrielle muligeheter og hindringer for Europa og europeisk autonomi.

Langs den ene aksen er det pekt på tre mulige utfall: Et optimistisk scenario der EU blir en global KI-militærmakt som hevder seg mot Kina og USA. Det forutsetter europeiske industrielle lederroller og et reelt felles forsvarsmarked i EU. Et pessimistisk utfall der dagens situasjon med sterk avhengighet av USAs teknologi og ledelse videreføres. Ingen store europeiske KI-forsvarsselskaper vokser frem. Og i midten det som omtales som et realistisk scenario, der Europa tar ledelsen i enkelte kritiske nisjer, mens avhengigheten fortsetter på andre områder.

Jeg må også nevne BAKS tyskspråklige rapport om: Zwei Szenarien für das Jahr 2035 – Künstliche Intelligenz in der Sicherheitspolitik fra slutten av 2025, selv om disse scenarioene er så korte, enkle og overordnede, at de kanksje ikke tilfører mye vi ikke allerede vet. Men BAKS, som står for Bundesakademie für Sicherheitspolitikk, på engelsk Federal Akademy for Security Policy, er et interessant fremsynsmiljø knyttet til forsvaret i Tyskland som har mye interessant å komme med, også når det gjelder utviling av metoder og opplæring i bruk av fremsynsmetodikk.

2. KI som variabel i global sikkerhetspolitikk

I denne andre hovedkategorien har jeg funnet tre scenariorapporter, Her flyttes hovedspørsmålet fra bruk av KI i militære våpensystemer, til å være en ytre driver som kan flytte global og regional makt. Tidshorisonten i disse rapportene er kortere, gjerne 4-5 år, fordi teknologiutviklingen går så raskt, og det er stor usikkerhet om hvor grunnleggene endringer vi kan opplve.

Første bidrag er fra forskningsmiljøet og tenketanken RAND, og heter How Artificial General Intelligence Could Affect the Rise and Fall of Nations (RR-A3034-2). Den kom ut i juli 2025. Undertittelen er "Visions for Potential AGI-futures", og det er forestillinger om disse fremtidene rapporten belyser gjennom å presentere 8 ulike scenarioer i en interessant scenariorapport på omkring 30 sider.

Valget av akser er litt spesielt her, og gir ikke et vanlig 2x2 aksekors, men en 2x4 matrise med 8 ulike utfall. Den ene aksen handler om evnen til å utvikle lendende KI. Enten hos en dominerende aktør, eller desenralisert slik at mange miljøer har denne evnen. Den andre aksen handler om det geopolitiske utfallet av KI-utviklingen, der det fire posisjoner: a) at særlig USA tjener på den, b) at USAs motstandere vinner mest, c) at både USA og USAs motstandere taper, og d) at KI-utviklingen bremser opp og derfor ikke har så stor betydning. 

Dette gir åtte ulike scenarioer, og et veldig mangfoldig spekter av ulike fremtide. Det er to måter USA kan vinne, to måter USA kan tape og to måter både USA og Kina taper. Og i de de siste to stopper utviklingen, enten på grunn av fryktelig hendelse som gjør at man bestemmer seg for en usikker våpenhvile ("The corked bottle"), eller krig mellom USA og Kina ("The Mushroom Cloud") Alle 8 scenarionene har sin egen indre oppdrappingslogikk. 

Jeg var innom canadiske CIGI i forrige kategori. De har også et interessant bidrag i denne kategorien: CIGI og Privy Council Office har sammen laget rapporten AI National Security Scenarios på omkring 60 sider. Her er det også et litt komplekst batteri av variable, som til sammen gir ganske mange ulike mulige utfall, men så gjør rapporten en forenkling, og gjennomfører et lite dypdykk i fem av dem.

Disse scenaroene har tre variable: KIs kapabilitetvekst med fem alternative baner: Stall, plateau, fast, accelerating og ekponential. Andre akse er KI-kontrollerbarheten, om menneskers kontroll er høy eller lav. Og siste akse er antall aktører ved teknologifronten, der alternativene er a) én vinner, b) en bipolar rivalisering, eller c) en mangedimansjonal konkurranse. Med alle disse variablene blir det et komplekst terreng med hele 30 ulike celler som kan fylles med hver sine fortellinger, men rapporten nøyer seg med 5 hovedbaner, med noen varisjoner i par av dem.

Vi får presentert et stagnasjonsscenario som heter "AI Stall", der det likvel er en utstrakt KI-bruk i samfunnet, men det er mange aktører og god kontrollerbarhet. Scenario 2 er "Precarious Prepicice", en bipolar rivalisering og en rask KI-utvikling, men i stort sett kontrollerbare former. 

Scenario 3a er "Hypercompetition", der det er eksponentiell vekst og rivalisering mellom selskaper, eller stater (som i et kontrollert atomkappløp) I Scenario 3b, "Hyperpower", er det også eksponentiell vekst, men bare en dominerende aktør, som har kontroll. Scenario 4, "Rogue Superintelligence" er der alt kontrollen glipper: Eksponentiell vekst i utviklingen av en superintelligens i en ikke-kontrollert kontekst. At kontrollerbarhet er en egen akse er interessant.

Siste rapport i denne kategorien er Centre for Emerging Technology and Security (CETaS) ved Alan Turing Institute som har skrevet rapporten "AI Cooperation Trajectories: Adversaries and Geostrategic Competitors". Det er en overkommelig rapport på omkring 40 sider, og igjen er det den store maktpolitikken i møte med KI som er tema.

Men denne rapporten skiller seg veldig ut ved at det ikke er USA, NATO eller Europa som er gjenstand for hovedanalysen, men de såkalte CRINK-landene, som er Kina, Russland, Iran og Nord-Korea, og i hvilken grad disse samarbeider om KI både i militære våpensystemer og maktpollitisk.

Arbeidsprosessen gruppen har brukt er å utvikle 50 scenarioer gjennom to heldags «serious games» med en spesialbygget kortstokk. Den har drivere som inkluderer KI-modenhet, hybridkrigføring, inntekte fra kriminalitet, verdien av kampdata osv. Og den beskriver tematiske funn fra spillene snarere enn selve scenarioene. At interessant paradoks: Rapporten advarer mot å overdrive dybden i samarbeidet mellom disse landene på strategisk nivå. Men den advarer også mot å tro at eksportkontroll har den tiltenkte effekten.

3. Generell forsvars-foresight der KI er en faktor, men ikke en variabel

Disse tre siste rapportene er store, godt ressurssatte fremtidsanalyser fra aktører i forsvarssektoren, som har en lang tradisjon for å lage scenariorapporter som en del av forsvarsplanleggingen. Alle omtaler kunstig intelligens som en helt sentral driver for utviklingen, men i disse rapportene er KI en faktor og en driver, men ekke en variabel i seg selv, slik det er i de andre rapportene.

NATOs Allied Command Transformation: Strategic Foresight Analysis 2023 er en scenariorapport fra 2023, med en tidshorisont frem til 2043. Den har identifisert syv endringsdrivere: climate change, resource scarcity, disruptive technology development, securitization of economics, human networks empowered, the exploitation of the global commons and an international order in transition.

Basert på driverne som er identifisert er det utviklet en aksemodell der de to variablene er høy og lav grad av disrupsjon forårsaket av disse driverne, og høy og lav grad av samarabeid mellom land for å løse problemene. Dette har gitt fire scenarioer i aksekorset: Fragmenting world , Pervasive competition,  Global cooperation og Better angels of our nature. De to siste ble i praksis forkastet fordi de er urealistisk positive, slik verden nå utvikler seg.

 KI har plass i rapporten som en del av driveren disruptiv teknologiutvikling og rapporten peker på at KI vil gi et stort fortrinn til land som er ledende i KI-utviklikngen og gir KI plass i sine forsvarsssystemer.

Rapporten Air Force Global Futures Report fra ledelsen i det amerikanskje luftforsvaret er en strategisk fremsynsrapport som ser frem til 2040. Den presenterer fire alternative scenarioer der ingen av banene er ment å være bare gode eller bare dårlige. 

Scenarioene er Continued growth, der globaliseringen og stormaktskonkurransen fortsetter, Transformational, der der det er store teknologiske gjennombrudd i genredigering og romkapasiteter, muliggjort av autonomi, KI/ML, kvanteberegning mm, Constrained, der kinesisk-russisk samordning gir dem fordeler mens vestens økonomier svekkes, og Collapse der natur- og menneskeskapte kriser driver frem proteksjonisme og nasjonalisme som gjør verden fattigere.

KI har en sentral plass som driver i fortellingene her også, og der er KI i stort sett alle cellene i rapporten, i hvert fall i tre av de fire scenarioene, men den differensierer ikke. Denne rapporten er også interessant fordi den går mer detajert til verks når det gjelder hva scenarioene betyr for det militærteknologiske.

Det britiske forsvarsdepartmentets scenarioer for fremtiden finner vi i rapporten: Development, Concepts and Doctrine Centre: Global Strategic Trends. Et monster av en rapport som kom høsten 2024. Tidshorisonten er helt frem til 2055. Den finnes i en stor 456-siders versjon, med full pakke av fargelagte sider og fargerike fortellinger. Og så har de en "bite size" 46-siders sammendragsversjon. Det kan være lurt å begynne der.

Rapporten har seks endringsdrivere: Globabal maktkamp, klimaendringer, økt ulikehet, demografiske endringer, teknologiske fremskritt og økonomi og energitranformasjon. Den trekker så frem fem motsetningsfylte områder: fragmentering vs konnektivitet, samarbeid vs konfrontasjon, innovasjon vs stagnasjon, krav om transparens vs autoritære utviklingstrekk og statlig avmakt vs statlig fornyelse

I et 2x2 aksekors der den ene aksjen er sterke stater vs spredning av makt og den andre aksen er sterkere samarbeid vs sterkere konkurranse mellom stater, er det fire scenarioer: Multilateralisme, Multipolaritet (som vil si at stormaktene leder blokker som samarbeider innad og konkurrerer utad), Nettverk av aktører (som innebærer et mer mangfoldig aktørbilde med megabyer, sterke selskaper, stater og globale organisasjoner) og Fragmentering (et scenario der konkurransen er mer destruktiv og farlig, og samarbeid undergraves). Rapporten erkjenner at ingen av de fire verdnene laget av aksekorset vil vokse frem i rendyrket form, og velger i stedet å beskrive fem tenkte utviklingsbaner i en flokete og turbulent virkelighet.