I en tid der teknologiske endringer og nye teknologidrevne innovasjoner treffer oss raskt, særlig drevet av kunstig intelligens, er det viktig å øke vår forestillingsevne om hva konsekvensene av disse teknologiske skiftene blir. Positive og negative konsekvenser for oss som individer, for arbeidsplassen og for lokalsamfunnet. Men også for Norge og verden.
Dette blogginnlegget skal handle om et par helt nye leseverdige fremtidsfortellinger om kunstig intelligens, men før jeg kommer dit skal jeg forsøke meg på en mer generell betraktning om behovet for å forstå og skape mening når det gjelder store teknologisprang eller "paradigmeskifter". Slike endringer som kaster om på hvordan vi produserer, konsumerer, arbeider, reiser eller snakker sammen.
Forestillinger om radio, TV og bilveier
Noen av oss er faktisk så gamle at vi vokste opp i et samfunn uten internett, mobiltelefon og epost. Men selv om vi vet at det var slik, og husker det, er det noen ganger litt vanskelig å huske akkurat hvordan vi løste ulike pratiske gjøremål i hverdagen uten en smarttelefonen eller PCen i nærheten. Men det er mye vanskeligere å forestille seg slike endringer motsatt vei, hva som vil skje i forkant av at det skjer, Hvordan forklarer man hva internett er, og hva man kan bruke det til, til en person som aldri har prøvd det? Og hvordan forklarer man hva som kommer når verken du eller noen andre har sett det?
Behovet for slike forestillinger om fremtiden er særlig verdifulle når det gjelder infrastukturteknologier. Teknologi som ikke bare er en innovativ ny tjeneste ingen har tenkt på før, men en infrastuktur som muliggjør et helt økosystem av nye tjenester, nytt innhold og nye måter å samhandle på. Hvordan forestille seg hvordan et bilbasert samfunn ser ut før biler blir masseprodusert. Eller hvordan radio og TV skulle endre samfunnet, før radio og TV fantes?
Det er vanskelig å spå om fremtiden, og slike fortellinger blir naturligvis ikke alltid helt presise. Noen ganger kan det være lurt å lage flere sccenarioer for å teste ulike ulike intre og ytre drivkrefter og få frem at det er noen veivalg som bør drøftes, men selve øvelsen med å trene på fremtidsforståelse er verdifull når mye er i endring
En annen teknologiparallell jeg ser brukes ofte i slike diskusjoner er hvordan standardiserte containere forandret logistikk, transport, og hele verdenshandelen fordi varer ikke lenger måtte pakkes om i havnene fordi de samme conatinerne passer på skip, jernbanevogner og lastebiler. Et tilsynelatende enkelt og kjedelig teknologiskifte som har endret verdensøkonomien Jeg blogget om en bra bok om hvordan containerne endret verden her. Og jeg vil anbefale Liv Dingsør i Digital Norways beskrivelse av opptrening av digital forestllingsevne her.
Eksponentiell vekst og paradigmeskifter
Jeg tenker at vi har noe av den samme tvilen og usikkerheten når det gjelder kunstig intelligens nå som vi hadde da internettinfrastuktur og -tjenester fikk sitt tidlige gjennombrudd rundt 1995. Med nett-pionerer, evangelister, entreprenører, wow-opplevelser, og en følelse av at dette var starten på noe mye større, men også noen som hevdet at dette var en boble som ville sprekke fordi det ikke var helt klart hva de store og dominerende industriene og offentlige tjenestene skulle bruke internett til. Bortsett kanskje fra å ha en nettside. Og når det nesten ikke var noe å gjøre på nettet, og det lille som var der kanskje ikke alltid var ting du ville viser til andre, så måtte det være en hype.
Som med andre digitale teknologier er det en underliggende eksponentiell vekst som driver endringene, vekst i prosessorhastigheter, datalagring og båndbredde, kombinert med stadig mer data, smartere algoritmer og bedre software. Men som med andre store teknologiskifter er hardware og software bare muliggjørere. Nødvendige forutsetninger, ja, men nye produkter, tjenster og arbeidsprosesser må skapes av noen. Det er ikke lett å spå hvilke tjenester og prosesser som kommer, eller hvor raskt og hvor bredt de blir tatt i bruk.
Det foregår også en maktkamp i et paradigmeskifte. Etablerte aktører vil kunne bruke eksisterende dominerende verdikjeder til gjøre det vanskelig for nye utfordrere, og vi får en periode der det er uklart om og hvor raskt den nye måten å gjøre ting på vinner fram. Og så er det jo også slik at selv om teknologiens muligheter utvikler seg raskt og eksponentielt, så er det ikke slik at kompetanse, arbeidsmåter, organisasjonskulturer, insitusjoner og lovverk endres like raskt. Og ikke menneskers holdninger og verdier heller, heldigivs.
Ny teknologi må finne sin plass innenfor et større system som vektlegger flere ting enn hva som er mulig, for eksempel hva som er ønskelig og hva det finnes samfunnsmessig og politisk aksept for. Også av den grunn er fremtidsforestillinger og scenarioer viktige hjelpemidler og samtalegrunnlag.
Fremtidsforestillinger om KI
Jeg håper denne lille omveien ikke ble for lang til det som er poenget i dette blogginlegget: Et par nye og leseverdige artikler med fremtidsfortellinger om kunstig intelligens. To artikler som gjennom å være spekulative, men likevel realistiske og ganske konkrete om en helt nær fremtid med mer KI, kan hjelpe oss til å komme til en bedre samtale om både mulige og ønskelige utviklinger, og hva vi helst vil unngå. De to artiklene er bidrar kanskje mest til det siste. Uten å være dystopiske løfter de frem noen problematiske iboende sider ved KI-teknologien og den dynamikken den bidrar til å utløse.
Den første artikkelen er et scenarionotat produsert i et samarbeid mellom forskningsmiljøet Citrini Research og Alap Shah med tittelen "The 2028 Intelligence Crisis". Som overskriften forteller er vi bare to år frem i tid, men i løpet av disse to årene har den kunstige intelligensen blitt tatt i bruk i dybden og bredden, med store produktivitetsøkende virkninger, særlig i teknolgi- og sofwareindustrien selv. Deretter kommer et stort krakk. Ikke fordi teknlogien ikke leverer, men tvert imot fordi samfunnet ikke var godt nok forberedt på de sysselsettingsmessige og fordelingsmessige konsekvensene av det store skiftet. Notatet åpner med å forklare at;
"Two years. That’s all it took to get from “contained” and “sector-specific” to an economy that no longer resembles the one any of us grew up in. This quarter’s macro memo is our attempt to reconstruct the sequence - a post-mortem on the pre-crisis economy."
Scenarioet som beskrives i fortellingen blir omtalt som "the human intelligence displacement spiral", det vil si effekten på kunnskapsarbeidere av at kunstig intelligens tar over stadig flere kunnskapsintensive jobber. Når noen overtar jobber er det noen andre som mister dem, og de som overtar jobbene i dette scenarioet kjøper verken mat, boliger, møbler eller teaterbilletter. De jobber hele tiden.
Scenarioet går igjennom hvordan KI tas i bruk på en rask og effektiv måte over alt der den kan erstatte "friksjon" og "mellommenn". Det gjelder i første omgang yrker og roller som er skaper verdi fordi folk ikke har tid, oversikt og tålmodighet til å samle og sammenligne data, men som maskiner gjør veldig effektivt. Og hvordan dette sprer seg fra softwareutvikling og digitale tjenester, og inn i stort sett alle markeder. Mens mange økonomiske endringer er sykliske, det om går ned kommer opp igjen når kapasiteten blir for lav, og for mange jobber er blitt borte, blir erstattet av nye yrker og oppgaver, tar dette scenarioet tilorde for at det dette er en rent negativ spiral:
"AI got better and cheaper. Companies laid off workers, then used the savings to buy more AI capability, which let them lay off more workers. Displaced workers spent less. Companies that sell things to consumers sold fewer of them, weakened, and invested more in AI to protect margins. AI got better and cheaper. A feedback loop with no natural brake."
Konsumkrise, gjeldskrise og politisk reaksjon
I den videre fortellingen går scenarioet inn hvordan den nedadgående spiralen i sysselsetting og lønninger for kunnskapsarbeidere.raskt leder til til en oppbremsing i forbruket, som så slår ut i at et tilsynelatende robust system for å forvalte kreditt og annen gjeld, blir satt i spill. Artikkelen gir også en interessant sammenligning mellom likheter og forskjeller mellom dagens sitasjon og finanskrisen fra 2008.
Deretter handler fortellingen om hva som skjer når krisen havner på politikernes bord, og man skal finne "tiltak". Her beskriver scenarioet noen gode diskusjoner, og interessante forslag til tiltak, men den politiske prosessen går langsomt, mens teknologiens disrupsjoner går mye raskere og lar seg ikke bremse:
"It’s hard to imagine the public hating anyone more than the bankers in the fallout of the GFC, but the AI labs are making a run at it. And, from the perspective of the masses, for good reason. Their founders and early investors have accumulated wealth at a pace that makes the Gilded Age look tame. The gains from the productivity boom accruing almost entirely to the owners of compute and the shareholders of the labs that ran on it has magnified US inequality to unprecedented levels.
Every side has their own villain, but the real villain is time. AI capability is evolving faster than institutions can adapt. The policy response is moving at the pace of ideology, not reality. If the government doesn’t agree on what the problem is soon, the feedback loop will write the next chapter for them."
Hvis vi putter dette scenariet inn i firefeltstabellen til det norske Kunnskapsbehovsutvalget som jeg blogget om for noen dager siden, er vi i scenarioer i nederste øyre hjørne, som de kaller "Omveltende automatisering", som er kobinasjon av verdig rask KI-utvikling og en utvikling der KI erstatter mennskeskers jobber i stedet for å først og fremst gi kunnskapsarbeidere bedre verktøy for å bli bedre og mer effektiv i utføreselen av arbeidet.
Men det behøver ikke bli slik. Man kan også tenke seg en alternativ fortelling der teknologiutviklingen går raskt, og mange kunnskapsoppgaver erstattes av automatisering, men de fleste jobber består og tilpasses nettopp fordi teknologien blir en hjelper og en samarbeidspartner.
Men i disse fortellingene, både i en optimistisk og en mer pessimistisk versjon, er det slik at mennskelig intelligens og menneskelig kunnskap ikke er den samme knapphetsfaktoren som har dimensjonert arbeidsmarkedet frem til i dag. Måten mennesker og teknoogi samspiller på er imidlertid ulik. Gode scenarioer og forestillinger om hvordan disse fremtidene vil kunne se ut kommer til å bli viktige fremoverfor, både som grunnlag for virksomhetsstrategier i en verden med rask utberedelse av KI, og i form av nasjonale strategier for å møte denne utviklingen. Det er lettere å sette inn ressurser, rammebetingelser og tiltak på rett sted hvis man har et klarere bilde av hvordan fremtiden kan bli og hvilken fremtid som er ønskelig.
Kan KI overleve sin egen pubertet?
Den andre fremtidsfortellingen jeg vil trekke frem her, og som er ganske fersk, er Dario Amodeis fortelling "The Adolescense of Technology" Amodei er konsernsjef i KI-selskapet Anthropic og skrev i fjor en optimistisk fremtidsfortelling som heter "Machines of loving grace" om hvordan KI kan bidra til å løse ulike store samfunnsutfordringer."There is a scene in the movie version of Carl Sagan’s book Contact where the main character, an astronomer who has detected the first radio signal from an alien civilization, is being considered for the role of humanity’s representative to meet the aliens. The international panel interviewing her asks, “If you could ask [the aliens] just one question, what would it be?” Her reply is: “I’d ask them, ‘How did you do it? How did you evolve, how did you survive this technological adolescence without destroying yourself?”
Amodei er som sagt påpasselig med å etterlyse en balansert og nyansert tilnæringem til farene og risikoen KI representerer, ved å unngå dommedagsprofetier ("doomerism", men også erkenne at det er trusler og farer, og fremfor alt usikkerhet). Vi før ha ambisjoner om å gjennomføre tiltak og reguleringer så "kirurgisk" som mulig. I stedet for generelle innovasjonshindrende og -hemmende begrensninger må innsatsen være risikobasert og presis..
Et land med bare nobelprisvinnere
Amodei omgår delvis diskusjonen om en når vi får se en "generell kunstig intelligens" som overgår mennesker på alle områder, og beskriver i stedet noe han kaller "powerful AI", som er overlegen nobelprisvinnere når det gjelder vitenskapelige evner og evne til å løse mange andre oppgaver, men ikke nødvendigvis alt. Denne KIen er går et skritt videre fra å svare raskt på konkrete oppgaver og kan arbeide uavhengig i lange perioder, og selv formulere promlemstillinger den skal løse. Og han minner om hvor raskt utviklingen går:
"We are now at the point where AI models are beginning to make progress in solving unsolved mathematical problems, and are good enough at coding that some of the strongest engineers I’ve ever met are now handing over almost all their coding to AI. Three years ago, AI struggled with elementary school arithmetic problems and was barely capable of writing a single line of code. Similar rates of improvement are occurring across biological science, finance, physics, and a variety of agentic tasks. If the exponential continues—which is not certain, but now has a decade-long track record supporting it—then it cannot possibly be more than a few years before AI is better than humans at essentially everything."
Med dette som bakteppe formulerer artikkelen et hypotetisk spørsmål om hvordan man ville forholde seg til et mellomstort land i verden der hele befolkningen har intelligens på samme nivå som nobelprisvinnere, og dekket stort sett alle fagdisipliner og domener, slik at de rett og slett er i stand til å utkonkurrere andre land på på alle fagområder.
Fem farer som truer"Imagine, say, 50 million people, all of whom are much more capable than any Nobel Prize winner, statesman, or technologist. The analogy is not perfect, because these geniuses could have an extremely wide range of motivations and behavior, from completely pliant and obedient, to strange and alien in their motivations. But sticking with the analogy for now, suppose you were the national security advisor of a major state, responsible for assessing and responding to the situation. Imagine, further, that because AI systems can operate hundreds of times faster than humans, this “country” is operating with a time advantage relative to all other countries: for every cognitive action we can take, this country can take ten. What should you be worried about?"







