Inga Strümke: Maskiner som tenker

At Inga Strümke har skrevet en veldig god bok om kunstig intelligens trenger ingen å lure på etter å ha lest avisene bokanmelderes omtaler og terningkast. Det de har skrevet i VG, Aftenposten, DN og Dagbladet er helt sant, Det er viktig at en bok som dette kommer på norsk og det er rett og slett veldig flott at vi har en så fremragende formidler på dette nivået her i landet.

Boken skiller seg ut på en positiv måte sammenlignet med noen utenlandske bøker jeg har lest om temaet ved at den ikke bare handler om historien bak, eller bare om teknologiene bak, som maskinlæring og nevrale nettverk, eller bare om juridiske og regulatoriske utfordringer, bare om anvendelsesområder som vil revolusjoneres, eller bare om filosofi. etikk og moral, om kunstig intelligens brukt i krig eller bare om skrekkfilmscenariene som blir sanne når maskinene snart vil ta over. Men den handler en hel del om alle disse temaene. Så når anmelder Erle Marie Sørheim i Aftenposten skriver at denne boken kan bli en internasjonal suksess, tenker jeg at det slett ikke er umulig.

For tiden skrives det bøker i hele verden i full fart om kunstig intelligens og det går jo ofte sånn passe, fordi teknologier ikke alltid er så gode til å vurdere juridiske og regulatoriske svar, filosofer er ikke alltid så bevandret i teknologiens virkemåter og både jurister, økonomer og mange andre fagfolk kan slite med å forstå ulike sektorer og bransjers særskilte virkemåter og utfordringer. Vi trenger noen som forstår at komplekse utfordringer må løses helhetlig og tverrfaglig.

Og til dette bidrar Inga Strümke med en kombinasjon av teknologikunnskap, innsikt i komplekse sammenhenger og en prisverdig nøkternhet som dessverre er ganske uvanlig for tiden. Jeg kan ikke huske noen teknologidebatter der avstanden mellom optimister og pessimister er så stor som i diskusjoner om hva kunstig intelligens vil bringe av revolusjonære svar eller store forbannelser. Og vi har jo hatt noen teknologidiskusjoner, om kjernekraft, bioteknologi (som i Norge fikk sitt eget bioteknologiråd), nanoteknologi og internett. 

Det er vanskelig å ha gode diskusjoner og prosesser når avstanden er så stor at man ikke er enige om hva problemet er. I slike diskusjoner er det veldig nødvendig å ha mennesker som protesterer når noen lanserer et tiltak de hevder skal løse alt. Mennesker som minner om at det kan være slik at det kan kreve litt tålmodighet og at gode svar må få vokse frem når vi skal finne balansen vi er på jakt etter mellom å slippe løs innovasjon som vil gi fantastiske resultater på mange områder, som mer presise medisinske behandlinger og autonome kjøretøyer, men som  vi ikke vil at skal slippes løs på en slik måte at det  kan påføre mennesker, miljø og materielle verdier stor skade. 

Det kan jo være grunn til å minne om at da bilen var oppfunnet og skulle få kjøre på veiene, da flyene var oppfunnet og skulle få frakte passasjerer, og da alkoholen for alvor ble en handelsvare og man måtte trekke opp noen grenser for hvor og hvordan produksjon og forbruk skulle foregå, og sondere mellom det å skade seg selv og det å skade andre, så var det også litt prøving og feiling for å finne riktige svar. På ingen av disse områdene er det slik at et enkelt tiltak har løst alle utfordringene. Vi har heller ikke funnet løsninger som vil virke inn i evigheten. Mennesker er ikke slik. De erfarer og lærer, De kan justere kursen, Og ombestemme seg, Derfor fortsetter debatten om riktig balanse både når det gjelder, biler, fly og alkohol, og vil garantert gjøre det når det gjelder kunstig intelligens også..

Nå har de nevnte anmelderne allerede sagt mye flott om "Maskiner som tenker" som jeg ikke trenger å gjenta. Men hva er det jeg synes er fint med denne boken? Den første delen er opptatt av røtter langt tilbake i tid, med Kurt Gödel, John von Neumann, Alan Turing og andre som la grunnlaget for dagens datavitenskap før det egentlig var noen datamaskiner, i hvert fall ikke digitale. Vi blir kjent med Eliza og lærer om tidligere optimistiske perioder og lange og mørke vintre for kunstig intelligens. Noen datadeling på et felles internett fantes jo slett ikke da pionerene holdt på. Datavitenskapens teorier kom lenge før det var mulig å gjøre det i praksis. Og det kan være greit å huske på i dag at alt er avhengig av at det finnes data, at de er til å stole på, at de kan deles med de som skal ha tilgang, men ikke med de som ikke skal ha tilgang, og at noen tar ansvar for å forvalte og holde i orden på disse dataene. Det er slett ingen selvfølge i dag heller, men er en viktig forutsetning for at kunstig intelligens skal kunne anvendes. Kunstig intelligens frakoblet data og internett er ikke mye å bry seg om.

Så beskriver hun i del to, den lengste delen av boken, hvordan teknologiene som ligger bak løsninger som ChatGPT og Midjourney er bygget opp og virker. Veldig pedagogisk og godt fortalt, og heldigvis litt nerdete. Hva slags data som blir brukt, hvordan algoritmene er trent opp av mennesker og begynner å lære av seg selv, eller går igjennom såkalt forsterket læring. Hva slags problemer vi kan havne i når utvalget av data er skjevt, eller ganske vanlig: dataene  representerer en historisk korrekt virkelighet, men ikke en ønsket fremtidig virkelighet. Hva er "urettferdighet" i datasett og hvordan håndterer man det? Så må jeg innrømme at nerdefaktoren av og til utfordrer min evne til å henge med på alt. Det var nytt for meg, og ikke helt intuitivt å forstå at algoritmene som generer fotorealistiske bilder gjør det ved å fjerne digital støy, slik fotoredigeringsprogrammer gjør, men bruker data der det ikke finnes noe bilde i det hele tatt. Og gjennomgangen av hvordan man får dramatisk mye mer plass når man utvider antall dimensjoner (et kinderegg i to, tre, fire eller fem dimensjoner er veldig forskjellig). Rett og slett veldig lærerikt.

Del tre av boken, som er litt kortere enn de andre, men kanskje det vi kommer til å bruke mest tid på å diskutere fremover, handler om fremtiden for kunstig intelligens, og hva slags behov for lover, regler, tilsyn og etiske vurderinger som vil kreves. Også her har Inga Strümke en etter min mening helt riktig innfallsvinkel når hun forklarer at det ikke er så lett å forklare hva kunstig intelligens er, eller kan komme til å bli, når vi ikke klarer å forklare fullt ut hva menneskelig intelligens eller menneskelig bevissthet er. De fleste er vel enige om at mennesker har en bevissthet som ikke ting eller enkle organismer besitter. Som er noe mer enn kjemiske, biologiske og elektriske prosesser. Men hvor mye mer? Gir det mening å snakke om en "sjel" som befinner seg utenfor det fysiske og som aldri vil kunne gjenskapes av maskiner uansett hvor mye regnekraft de har?. Eller er mennesker i bunn og grunn et resultat av en biologisk evolusjon og kjemiske reaksjoner, som kan gjenskapes?. Og, kanskje mest sannsynlig, er sannheten et sted i mellom. Dette er viktige filosofiske diskusjoner som også vil få en viktig plass i drøftingene om hva kunstig intelligens er og kan bli.

Litt mer jordnært minner boken oss om at etikk og regulering ikke er helt det samme. Det er egentlig ganske enkelt å regulere noe. Man kan forby det eller tillate det, man kan sette aldergrenser, kompetansekrav, fartsgrenser eller områdebegrensninger (det er bare lov å kjøre bil på høyre side av veien). Eller man kan tillate at nye ting prøves ut på avgrensede områder for å få ny kunnskap, for eksempel i form av regulatoriske sandkasser eller lukkede baner. Slik reguleringer har naturligvis et moralsk og etisk opphav, men de virkelig vanskelige etiske spørsmålene kommer der det er målkonflikter og gråsoner, der det bare finnes dårlige utfall og der svarene ikke er opplagte og der det kreves en etisk modenhet og refleksjonsevne blant de som er satt til å håndtere bruken kraftige og potensielt farlige verktøy. Det er slike temaer Inga Strümke fortjenestefullt trekker opp på slutten av boken, uten å hevde at hun har svarene. Denne beskrivelsen av hva slags diskusjon vi trenger, og hvorfor, men uten å ha lettvinte og ferdige svar, er noe det beste ved denne boken. En bok jeg også må opplyse om at jeg fikk tilsendt i posten med en veldig hyggelig hilsen fra forfatteren.

Jeg kunne skrevet mye mer, og det kommer jeg nok også til å gjøre fremover, for dette er spennende saker. Men det som er minst like lurt som å lese min blogg er å lese Inga Strümkes bok.