Fremtidsfortellinger om kunstig intelligens

I en tid der teknologiske endringer og teknologidrevne innovasjoner treffer oss raskt, er det viktig å øke vår forestillingsevne om hva konsekvensene av disse teknologiske skiftene er. For oss som individer, for arbeidsplassen og lokalsamfunnet, og for Norge og verden. Liv Dingsør i Digital Norway har en fin beskrivelse av opptrening av digital forestllingsevne her.

Dette blogginnlegget skal handle om et par helt nye fremtidsfortellinger om kunstig intelligens, men før jeg kommer dit må jeg forsøke meg på en mer generell betraktning om behovet for å forstå store teknologisprang eller "paradigmeskifter" som kaster om på hvordan vi produserrer, konsumerer, arbeider, reiser eller snakker sammen. 

Forestillinger om internett og bilveier

Mange av oss vokste opp i et samfunn uten internett, mobiltelefoner og epost. Men selv om vi husker det er det noen ganger litt vanskelig å huske akkurat hvordan vi løse ulike pratiske gjøremål i hverdagen der vi i dag automatisk tyr til nettet. Mye vanskeligere er det å forestille seg slike endringer i måten vi gjør ting på motatt vei, i forkant av at de skjer, Hvordan forklarer man hva internett er, og hva man kan bruke det til, til noen som ikke har prøvd det? Eller hvis ingen har prøvd det? 

Behovet for slike forestillinger om fremtiden er særlig verdifulle når det gjelder infrastukturteknologier. Teknologi som ikke bare er en innovativ ny tjeneste, men en infrastuktur som muliggjør et helt økosystem av nye tjenester, nytt innhold og nye måter å samhandle på. Hvordan forestille seg hvordan et bilbasert samfunn før bilen har fått sitt gjennombrudd. Eller hvordan radio og TV skulle endre samfunnet, før radio og TV fantes? En annen teknologiparallell jeg ser brukes ofte i slike diskusjoner er hvordan standardiserte containere forandret logistikk, transport, og hele verdenshandelen fordi varer ikke lenger måtte pakkes om i havnene fordi de samme conatinerne passer på skip, jernbanevogner og lastebiler. Jeg blogget om en bra bok om hvordan containerne endret verden her.

Eksponentiell vekst og paradigmeskifter

Jeg tenker at vi er omtrent samme situasjon når det gjelder kunstig intelligens nå som vi var i da internettinfrastuktur og -tjenester fikk sitt tidlige gjennombrudd. Men pionerer, entreprenører, wow-opplevelser, og for mange en følelse av at noe mye  større var på gang, men også noen som hevdet at dette var en boble som ville sprekke fordi det ikke var helt klart hva de store og dominerende industriene og offentlige tjenstene skulle bruke internett til. Bortsett kanskje fra å ha en nettside.

Som med andre digitale teknologier er det en underliggende eksponentiell vekst som driver endringene, vekst i prosessorhastigheter, datalagring og båndbredde, kombinert med stadig mer data, smartere algoritmer og bedre software. Men som med andre store teknologiskifter er dette bare muliggjørere. Det mest uforutsigbare er hvilke tjenester og prosesser som lanseres, og hvor raskt og hvor bredt de blir tatt i bruk. 

Etablerte aktører vil kunne bruke eksisterende dominerende verdikjeder til å stanse nye utfordrere, og vi får en periode der det er uklart om og hvor raskt den nye måten å gjøre ting på vinner fram. Og så er det jo også slik at selv om teknologiens muligheter utvikler seg raskt og eksponentielt, å er det ikke slik at kompetanse, arbeidsmåter, organisasjonskulturer, insitusjoner og lovverk endres like raskt. Og ikke menneskers holdninger og verdier heller, heldigivs. Ny teknologi må finne sin plass innenfor et større system som vektlegger flere ting enn hva som er mulig, for eksempel hva som er ønskelig og hva ddet finnes samfunnsmessig og politisk aksept for.

Fremtidsforestillinger om KI

Jeg har lest to spennende artikler nylig som inneholder noen slike fremtidsforesstillinger om kunstig intelligens, og som gjennom å være spekulative, men likevel realistiske og ganske konkrete om vår helt nære fremtid med mer KI, bidrar til en bedre samtale om mulige og ønskelige utviklinger. 

Det første er et scenarionotat produsert i et samarbeid mellom forskningsmiljøet Citrini Research og Alap Shah med tittelen "The 2028 Intelligence Crisis". Som overskriften forteller er vi bare to år frem i tid, men i løpet av disse to årene har den kunstige intelligensen blitt tatt i bruk i dybden og bredden, med store produktivitetsøkende virkninger, og deretter et stort krakk fordi samfunnet ikke var godt nok  forberedt på de sysselsettingsmessige og fordelingsmessige konsekvensene av den store omstillingen. Notatet åpner med å forklare at;

"Two years. That’s all it took to get from “contained” and “sector-specific” to an economy that no longer resembles the one any of us grew up in. This quarter’s macro memo is our attempt to reconstruct the sequence - a post-mortem on the pre-crisis economy."

Scenoarioet som beskriver blir omtalt som "the human intelligence displacement spiral", det vil si motposten til at kunstig intelligens tar over stadig flere kunnskapsintensive jobber. Når noen overtar jobber er det noen andre som mister dem, og de som overtar jobbene kjøper verken mat, boliger, møbler eller teaterbilletter. 

Scenariobeskrivelsen går igjennom hvordan KI tas i bruk på en vellykket måte over alt der den kan erstatte "friksjon" og "mellommenn", yrker og roller som er skaper verdi fordi folk ikke har tid, oversikt og tålmodighet til å samle og sammenligne data, men som maskiner gjør veldig effektivt.Og hvordan dette sprer seg fra software og inn i stort sett alle markeder. Mens slik endringer gjerne har vært sykliske, det om går ned kommer opp igjen når kapasiteten blir for lav, og jobber som forsvinner blir erstattet av nye yrker og oppgaver, tar dette scenarioet tilorde for at det dette er en rent negativ spiral:

"AI got better and cheaper. Companies laid off workers, then used the savings to buy more AI capability, which let them lay off more workers. Displaced workers spent less. Companies that sell things to consumers sold fewer of them, weakened, and invested more in AI to protect margins. AI got better and cheaper. A feedback loop with no natural brake."

Konsumkrise, gjeldskrise og politisk reaksjon

I den videre fortellingen går scenarioet inn hvordan den nedadgående spiralen i sysselsetting og lønninger for kunnskapsarbeidere.raskt leder til til en oppbremsing i forbruket, som så slår ut i at et tilsynelatende robust system for å håndtere kreditt og gjeld, blir satt i spill. Artikkelen gir også en interessant sammenligning mellom likheter og forskjeller mellom dagens sitasjon og finanskrisen fra 2008. Deretter handler fortellingen om hva som skjer når krisen havner på politikernes bord, og man skal finne "tiltak". Og i denne fortellingen er det noen gode diskusjoner og forslag til tiltak, men den politiske prosessen går langsomt, mens teknologiens distupsjoner utvikler seg raskere:

"It’s hard to imagine the public hating anyone more than the bankers in the fallout of the GFC, but the AI labs are making a run at it. And, from the perspective of the masses, for good reason. Their founders and early investors have accumulated wealth at a pace that makes the Gilded Age look tame. The gains from the productivity boom accruing almost entirely to the owners of compute and the shareholders of the labs that ran on it has magnified US inequality to unprecedented levels. 

Every side has their own villain, but the real villain is time. AI capability is evolving faster than institutions can adapt. The policy response is moving at the pace of ideology, not reality. If the government doesn’t agree on what the problem is soon, the feedback loop will write the next chapter for them."

Hvis vi putter dette scenariet inn i firefeltstabellen til Kunnskapsbehovsutvalget som jeg blogget om for noen dager siden, er vi i scenarioer i nederste øyre hjørne, som de kaller "Omveltende automatisering", som er kobinasjon av verdig rask KI-utvikling og en utvikling der KI erstatter mennskeskers jobber i stedet for å først og fremst gi kunnskapsarbeidere bedre verktøy for å bli bedre og mer effektiv i utføreselen av arbeidet. 

Men det behøver ikke bli slik. Man kan også tenke seg en alternativ fortelling der teknologiutviklingen går raskt, og noen kunnskapsjobber erstattes av automatisering, men de fleste overlever nettopp fordi teknologien blir en hjelper og en samarbeidspartner. I begge disse fortellingene er det slik at mennskelig intelligens og kunnskap ikke er den samme knapphetsfaktoren som har dimensjonert arbeidsmarkedet frem til i dag. Men måten mennesker og teknoogi samspiller på er helt ulik. Gode forestillinger om hvordan disse fremtidene vil kunne ses ut vil kommer til å bli viktige fremoverfor å sette inn virksometenes ressursinnsats og politiske rammebetingelser og tiltak på rett sted. 

Kan KI overleve sin egen pubertet?

Den andre fremtidsfortellingen jeg vil trekke frem, og som er ganske fersk, Dario Amodeis fortelling "..." Amodei er konsernsjef i KI-selskapet Anthropic og skrev i fjor en optimistisk fremtidsfortelling som heter "Machines of loving grace". Nå i januar kom et essay som er er mer opptatt av risikoscenarier og eksistensielle trusler med tittelen "The Adolescence of Technology". Adomei skriver ikke at det vil gå galt, men her opptatt av hva som kan gå galt hvis det går galt. For ved å ha forestillinger om hva som kan gå alvorlig galt, er vi langt bedre rustet til å hindre slike scenarioer.

Dairio Amodei skriver om "teknologiens pubertet", og hvordan man kommer igjennom den uten at den gjør alvorlig skade. Han tar utgangspunkt i en scene i en science fiction-film av Carl Sagan:

"There is a scene in the movie version of Carl Sagan’s book Contact where the main character, an astronomer who has detected the first radio signal from an alien civilization, is being considered for the role of humanity’s representative to meet the aliens. The international panel interviewing her asks, “If you could ask [the aliens] just one question, what would it be?” Her reply is: “I’d ask them, ‘How did you do it? How did you evolve, how did you survive this technological adolescence without destroying yourself?”

Og han er påpasselig med å etterlyese en balansesert og nyansert diskusjon om tilnæringem til farene og risikoen KI representerer, ved å unngå dommedagsprofetier ("doomerism",  erkenne at det er trusler og farer, og fremfor alt usikkerhet, og ved å ha en ambisjon om å gjennomføre tiltak og reguleringer så presist og "kirurgisk" som mulig, i stedet for generelle innovasjonshindrende og -hemmende begrensninger.

Et land med bare nobelprisvinnere

Amodei omgår delvisdiskusjonen om en "generell kunstig intelligens" som overgår mennsker på alle områder, og beskriver i stedet noe han kaller "powerful AI", som er overlegen nobelprisvinnere når det gjelder vitenskapelige evner og evne til å løse mange andre oppgaver, men ikke nødvendigvis alt. I stedet for å svare raskt på konkrete oppgaver, kan den arbeide uavhengig i lange perioder, og selv formulere promlemstillinger som skal løses. Og han minner om hvor raskt utviklingen nå går:

"We are now at the point where AI models are beginning to make progress in solving unsolved mathematical problems, and are good enough at coding that some of the strongest engineers I’ve ever met are now handing over almost all their coding to AI. Three years ago, AI struggled with elementary school arithmetic problems and was barely capable of writing a single line of code. Similar rates of improvement are occurring across biological science, finance, physics, and a variety of agentic tasks. If the exponential continues—which is not certain, but now has a decade-long track record supporting it—then it cannot possibly be more than a few years before AI is better than humans at essentially everything."

Med dette som bakteppe formulerer artikkelen et spørsmål om hvordan man ville forholde seg til et mellomstort land der hele befolkningen hadde intelligens på samme nivå som nobelprisvinnere, og dekket stort sett alle fagdisipliner og domener, slik at de rett og slett er i stand til å utkonkurrere andre på alt dette:

"Imagine, say, 50 million people, all of whom are much more capable than any Nobel Prize winner, statesman, or technologist. The analogy is not perfect, because these geniuses could have an extremely wide range of motivations and behavior, from completely pliant and obedient, to strange and alien in their motivations. But sticking with the analogy for now, suppose you were the national security advisor of a major state, responsible for assessing and responding to the situation. Imagine, further, that because AI systems can operate hundreds of times faster than humans, this “country” is operating with a time advantage relative to all other countries: for every cognitive action we can take, this country can take ten. What should you be worried about?"

Fem farer som truer

I stedet for å beskrive et scenario i form av av en sammenhengende fortelling, velger Amodei å utbrodere fem ulike farer som man bør bekymre seg for, og som må håndteres. 

Første risiko kaller han "autonomi-risiko", og er også omtalt som "I'm sorry, Dave", inspirert av datamaskinen Hal i Stanley Kubricks film fra 1968, "2001 - En romodysse", der datamaskinen tar over kontrollen over romskipet og prøver å ta livet av sine menneskelige sjefer. Kan KI som er koblet til fysiske innretninger gjøre det samme? Vel, det må vi i hvert fall sørge for å unngå. Og i stedet for å late som dette ikke er noen reell problemstilling, gir Dario Amodei en lang, reflektert og veldig interessant drøfting av i hvilken grad KI-autonomi er et problem.

Andre risiko er destruktive mennesker som får kontroll over teknologien. En slags motpol til at teknologien blir autonom og destruktiv, for å beskytte seg selv, er at teknologien tvert imot er lydig, og også lydig mot mennesker med skadelige og samfunnsødeleggende hensikter. Skal maskinene gjøre det de er lært opp til av mennesker, eller kan de fravikte dette og følge instruksene gitt av menneskelige eiere med samfunnsskapdelige ambisjoner? Hva veier tyngst, og hvordan kan en maskin gjøre etiske vurderinger av hva som er riktig? Også her gir Amodei en nyansert og grundig vurdering av hva som kan gå galt.

Tredje utfordring handler også om å bruke KI til å oppnå menneskelige ambisjoner, men i dette tilfellet handler det om å bruk KI til å erobre makt og innflytelse. Ja kanskje herredømme over et land, eller over hele verden? Det kan man jo åpenbart oppnå gjennom å styre mennesker, men er det mulig å lykkes enda bedre gjennom å slippe å forholde seg til mennsker, men bruke KI direkte? Artikklene nevner KI brukt til kontroll over autonome våpensystemer, KI brukt til massiv overvåkning av alle innbyggere, KI brukt som redskap for propaganda og informasjonskontroll, og KI brukt til strategisk analyse og beslutninger. 

Amodei kommer i dette punktet inn på KI bruk som redskap for autoritære diktaturer, som Kina, men også om betydningen KI kan ha for demokratier som kjemper mot skadelig propaganda og manipulasjon fra diktaturer. Og han er overraskende ærlig når det gjelder de store, private KI-selskapenes potensielle maktmisbruk og anti-demoratiske rolle dersom de velger å bruke egen teknlogi til å forfølge denne type mål.

For det fjerde kan veldig avansert KI i hendene på et enkelt land eller selskap alene resultere i en distuptiv utvikling også i situasjoner der ingen egenltig ønsker det. Men dersom teknologien et sted er veldig overlegen det alle andre har, jfr eksemplet med et land med en befolkning som bare består av av nobelprisvinnere, så kan dette rett og resulterer i en så vellykket økonomisk utvikling at den blir helt forstyrrende for andre land og selskaper. Ved å utkonkurrere alle andre kan de bidra til helt ødeleggende økonomiske konsekvenser for alle andre, skriver Amodei. Også her går han grundig og nyansert inni ulike argumenter for og mot at teknologien vil få slike virkninger, og drøfter også måter å lage forsvarslinjer mot skadelige effekter.

Den femte potensielt samfunnunnskadelige virkningen kaller han "Seas of infinity" og er en mer generell observasjon av at rask teknlogisik utvikling kan gi en hel del indirekte effekter som kan være destabiliserende for andre. Vi får kansksje flere tiårs vitenskapelige fremskritt på noen få år på grunn av KI. Dario Amodei nevner noen tenkbare eksempler innenfor biologi og genetikk, innenfor KI brukt til terapeutiske behandling, men potensial for avhengihet, og KI som forstyrrer og forskyver hva vi tenker om mål og mening med tilværelsen.

KI på kort og lang sikt

Begge artiklene jeg har nevnt handler om relativt distuptive endringer som kan skje på ganske kort sikt og som drives av den raske forbedringstakten i den underliggende KI-teknologien. Når det gjelder noe mer langsiktige forestillinger om en fremtid der KI er helt innvevd i samfunnsinfrastrukturen, i utdanningen, i helsesektoren, som overvåkningsteknologi, i autonome kjøretøyer, i kvantedatamaskiner og i autonome våpensystemer, vil jeg anberale novellesamlingen "AI 2041 - Ten visions for our future", skrevet av Kai-Fu Lee og Chen Qiufan. Førstnevnte er teknolog og ventureinvestor i Kina. Sistnevnte er science fiction-forfatter. Og sammen har de forfattet ti veldig gode og tankevekkende fortellinger om fremtiden, med en stor  pakke etiske dilemmaer, målkonflikter og andre floker som kan seile opp og må løses. Herlig spekulativt, naturligvis, men glitrende godt fortalt.

 Jeg blogget om boken her. Det er fem år siden den kom, en hel evighet i KI-sammenheng, men jeg tror boken er enda mer dagsaktuell nå. Fremtidsdrøftingene til Citrini research og til Dario Amodei ligger mye nærere i tid, og er derfor langt mindre spekulative, men kanskje enda mer urovekkende nettopp fordi de ligger så nær i tid, og gir oss liten tid til å forberede innbyggere, samfunn, lovverk, arbeidsliv og utdanningssystem på det som kommer. Vi nå løfte den teknologiske forestillingsevnen enda noen hakk for å lykkes med dette.