En plan for kunstig intelligens

Hvordan bør vi som samfunn ta imot og ta i bruk nye teknologier vi ikke helt overskuer konsekvensene av? Hvordan legger vi bedre til rette for å bruke teknologi til å løse viktige samfunnsutfordringer? Hvilke problemer kan oppstå? Hvordan balanserer vi et ønske om mer utforsking og innovasjon med et behov for sikkerhet og tillit?

Politikere og myndighetsorganer har som jobb å håndtere nettopp denne type balansegang ved å skape virkemidler og insentiver for mer aktivitet og kreativitet der det er ønskelig, men også lovregulere, begrense og drive tilsyn der det er nødvendig for å redusere risiko. Og det området som i særlig grad blir gjenstand for denne diskusjonen nå er naturligvis kunstig intelligens (KI). Det forventes at politikere skal gjøre noe, men hva skal man ikke vet nøyaktig hva som kommer av utfordringer og når avstanden mellom teknologipessimister og teknologioptimister er så stor?

Heldigvis er vi ikke helt på bar bakke når det gjelder politikk for kunstig intelligens. I 2020 la den daværende regjeringen frem en nasjonal strategi for kunstig intelligens, som dagens regjering også sier den legger til grunn. Den ble fulgt opp med en Stortingsmelding om datadrevet økonomi og innovasjon i 2021. Utfordringen er at den teknologiske utviklingen ikke tar pause og når det gjelder KI har ChatGPT, Midjourney, Dall-E, Copilot, Bard og andre KI-verktøy rykket inn i hverdagen vår både på jobb og privat. Da den norske KI-strategien kom og da EU startet arbeidet med AI-Act fantes det ingen omtale av generativ KI.

Samtidig har virksomheter i både offentlig og privat sektor kastet seg over KI-teknologi for  å løse en rekke ulike oppgaver og utfordringer. I Digitaliseringsdirektoratets liste over KI-prosjekter i offentlig sektor er det over 150 prosjekter. Det finnes sikkert enda flere enn dette, og det blir garantert mange flere i årene som kommer. Alt dette har skapt et behov for  å videreutvikle strategier og planer etter hvert som teknologien åpner nye muligheter og skaper problemer.

Dette var bakteppet da jeg tidligere i år ble spurt av Høyres stortingsgruppe om å lede et ekspertutvalg som skulle komme med anbefalinger om en oppdatert politikk på området, blant annet råd om hvordan vi håndterer spørsmålet om lovregulering, tilsyn, åpenhet og etiske avveininger knyttet til bruk av kunstig intelligens. Det ble et fantastisk flott utvalg, med flere kjente teknologinavn, men også folk med ekspertise på alt fra internasjonal folkerett, EU-prosesser og sikkerhetskultur til rekrutteringsprosesser, energibransjen og kommunal teknikk. Ingen som ble spurt om å være med sa nei, noe som gjorde at det ble et stort utvalg. Fire stortingsrepresentanter var med også. Vi hadde flere spennende møter,  tre dager med høringer og fikk mange skriftlige innspill. Resultatet ble en rapport som ble overlevert Høyres stortingsgruppe for et par uker siden.

Og nå har Linda og Erna presentert resultatet, en politisk plan for kunstig intelligens. Med et bilde generert av kunstig intelligens på forsiden. Her er en lenke til Høyres omtale av dokumentet på nettsidene og her er selve rapporten. Som er blitt et lekkert og fargerikt dokument med tittelen "Neste steg for kunstig intelligens - Høyres løsninger for trygg og verdifull kunstig intelligens i Norge". 

Jeg skal ikke gjenta alt som står der, men vil trekke frem noen av punktene som har med nettopp dette jeg innledet med, å tilnærme seg hvordan vi som samfunn skal ta imot og ta i bruk nye teknologier vi ikke kan overskue alle konsekvensene av. Nå er jo ikke det helt nytt i et moderne samfunn at det kommer nye teknologier som skaper muligheter og utfordringer. Det har for eksempel kommet både biler, fly, elektrisitet, spritproduksjon og legemidler, med tilhørende lovverk, aldersgrenser, omsetningsregler, produktkrav, godkjenningsregimer, støtteordninger og avgifter.

Ja, til og med elektriske sparkesykler er regulert. Men forskjellen på disse nevnte teknologiene og KI er at biler, fly, alkohol og legemidler har funnet sin plass i ulike sektorlovverk, mens KI og annen digital teknologi gjerne går på tvers av sektorer og bransjer, og utfordrer oss på måter som både krever oppdatert regulering i mange sektorer,. Det er gjerne slik at en datamaskin eller et KI-system i seg selv ikke behøver å lovreguleres, men hvis datamaskinen er inne i en bil, i en teknisk innretning som behandler pasienter eller hvis den håndterer sikkerhetskritisk informasjon, så trenger den et regelverk og kanskje et tilsyn tilpasset konteksten. 

 For å være best mulig forberedt på å håndtere slike komplekse utfordringer har derfor rapporten en del forslag om hvordan vi skal gå fram. Blant annet at vi bør:

• Etablere et nytt rådgivende organ for kunstig intelligens, etter modell av Bioteknologirådet, som rådgir i prinsipielle spørsmål om teknologien og gir veiledning om ansvarlig bruk.
• Gjennomføre en digital lovvask av sektorlovgivningen på ulike områder for å sikre åpenhet og innsyn, rettssikkerhet, personvern og forbrukerrettigheter.
• Etablere nasjonale retningslinjer for kunstig intelligens i skolen, som sikrer konstruktiv og kritisk bruk av kunstig intelligens med fokus på læringsgevinster, samtidig som det er tydelige rammer for når teknologien kan brukes og ikke.
• Utarbeide en NOU om generativ KIs virkning på kunst, kultur og mediefeltet, for å kartlegge behovet for lovendringer på området.
• Effektivt implementere EUs AI Act, og sikre at Norges forberedelser starter allerede nå, slik at vi ikke blir hengende etter landene rundt oss.
• Legge til rette for flere regulatoriske sandkasser for uttesting av ny teknologi i offentlig sektor, for eksempel innenfor kunstig intelligens som helseteknologi.
• Utrede godkjenningsmetode tilsvarende legemidler ved bruk av KI-systemer med så høy risiko at det er fare for alvorlige skader, tap av liv eller alvorlige samfunnsinnvirkninger

Det er viktig å understreke at dette innebærer en tilnærming til KI der vi ikke skal kaste ut eksisterende lovverk og tilsynsordninger som sikrer rettssikkerhet, personvern, likestilling, sikkerhet eller forbrukerbeskyttelse og erstatte det med et eget KI-lovverk og et eget KI-tilsyn, som om kunstig intelligens var noe separat og avgrensbart fra andre ting. Det utelukkes ikke at det kan vokse frem et behov for et "algoritmetilsyn" eller et "datakvalitetstilsyn" dersom det er et regulatorisk tomrom som må fylles for å sikre at avanserte datasystemer som  bruker KI ikke gjør skade på måte som ikke fanges opp av andre lover og reguleringer. Men dette er i så fall noe et råd for kunstig intelligens kan komme med anbefalinger om når det har blitt etablert.

Anbefalingen nå er  å bygge videre på etablerte og fungerende lovverk og kontrollmekanismer, men sørge for at disse blir modernisert slik at de både sørger for nødvendig regulering og beskyttelse der KI gir oss nye utfordringer, men også slik at vi fjerner utilsiktede hindringer for innovasjon og effektivisering der lovverket trenger oppdatering. I arbeidet med dette har mange virksomheter, både i offentlig og privat sektor, spilt inn at de er bekymret for at lovgivning og formkrav knyttet til compliance, og som  ikke henger med, kan stå i veien for innovasjonsmuligheter. 

Et siste poeng om offentlig sektor og kunstig intelligens: Bruk av KI i offentlig sektors saksbehandling og beslutningsprosesser stiller selvfølgelig strenge krav til åpenhet, dokumenterbarhet og forklarbarnet. Det må være mulig for innbyggere og virksomheter å få forklart hvorfor beslutningen ble som den ble og det må være mulig å klage fordi man mener en beslutning er feil. Det påvirker også hvordan systemer som bruker kunstig intelligens må innrettes og hvordan de som utvikler og bruker slike systemer må ha kompetanse og ferdigheter langt ut over det rent teknologiske. Ja, vi har behov for  mye teknologi- og realfagskompetanse for å være langt fremme på kunstig intelligens. Men skal vi være ledende på anvendelser av kunstig intelligens som opprettholder tillit, så kan det være vel så viktig å bygge tverrsektoriell kompetanse rundt etikk, psykologi, juss og samfunnsfag.