NRK Troms og Finnmark kan fortelle at det av 18 oppgitte kider i dokumentet bare er syv som tar seg oppspore, og skriver videre at:
"I mars publiserte Tromsø kommune et dokument på 120 sider som vurderer konsekvensene av å slå sammen flere skoler og barnehager. Torsdag ble det oppdaget av mange av kildene i dokumentet ikke finnes. Av 18 oppførte kilder i dokumentet, kan bare syv av dem spores opp, skriver avisen iTromsø. En av referansene i dokumentet er en bok med tittelen «Kvalitet i skolen: Læring, trivsel og relasjoner». Thomas Nordahl, professor i pedagogikk, er listet opp som en av forfatterne til boken. Problemet er at denne boken ikke er skrevet, sier Nordahl til iTromsø."
NRK skriver at kommunen vil sette igang en gransking av det som har skjedd med hjelp fra eksterne, og der er jo bra. Rapporten finnes for øvrig på kommunens nettsider og kan leses her. Den er på litt over 100 sider og de nevnte referansene er på side 117 og 118.
Masterstudenter og myndigheter
Hvis det var en student som skrev en masteroppgave, og fant opp flere kilder som ikke finnes i virkeligheten, så tror jeg alle vil være enige om at det er an svært alvorlig form hvor juks. Det ville selvsagt resultert i at oppgaven ble underkjent og helt sikkert en utestengelse fra utdanningsinstitusjonen i en periode. Slik må det nødvendigvis være fordi det handler om et grovt tillitsbrudd.
Hvis et offentlig forvaltningsorgan jukser med kilder for forskningsbasert kunnskap, og dikter opp forskningsrapporter for å understøtte en bestemt konklusjon i sin saksbehandling, ja da er det i hvert fall ikke mindre alvorlig enn om en student gjør det. Et forvaltningsorgans beslutning kan ha store konsekvenser og trenger et godt og korrekt kunnskapsgrunnlag. I dagens polariserte samfunnsdebatt er det sannsynligvis viktigere enn noen gang at vi ikke finner på fakta eller dikter opp kilder til fakta, men baserer oss på gode kilder og anerkjente metoder for å fremskaffe kunskap. Utredningsinstruksen kan si en del viktig og fornuftig om gode måter å skaffe beslutningsgrunnslagen man trenger.
KI er ikke et mål, men et verktøy
Så er det er spørsmålet om det blir annerledes når en teknologi og ikke et mennske gjør slike feil. Er det mindre grovt at KI påstår noe som ikke er sant enn at mennesker gjør det? Slik kan det naturligvis ikke være. Men merkelig nok var digitaliserings og forvaltningsminister Karianne Tung raskt ute og kommenterte Tromsø kommunes rapport i en post på Linkedin som åpner slik:
"Tromsø Kommune brukte kunstig intelligens som hjelpemiddel i en rapport – det gikk ikke helt etter planen. Kommunen skal ha ros både for å ta i bruk teknologien, men også for å være åpne og reagere raskt når det viser seg at feil har blitt gjort."
Den måten å reagere på må jeg innrømme at jeg ikke helt forstår. Med tanke på at rapporten fra Tromsø kommune hadde alvorlige feil virker det ganske malplassert å benytte anledningen til å rose dem for å ta i bruk en bestemt teknologi? Det viktige uansett teknologi og verktøy er å være sannferdig og fremstille fakta riktig. Vi må ikke bli så entusiastiske når det gjelder å ta i bruk KI at vi setter viktige utredningsprinsipper og forvaltningsprinsipper til side, eller ser gjennom fingrene når det gjøres alvorlige feil.
Den nylig fremlagte digitaliseringsstrategien til regjeringen har et litt mystisk mål om at 80 prosent av offentlige virksomheter skal ta i bruk kunstig intelligens i 2025. Akkurat hvorfor dette så viktig kommer ikke klart frem. Jeg har derfor et forslag om at vi heller har som mål at bruk av kunstig intelligens og andre digitale teknologier i offentlig sektor, også til å skrive rapporter, skal skje for å forbedre utredningskvaliteten og styrke og kvalitetssikre kunnskapsgrunnlaget. Hvis noen verktøy oppnår det motsatte, så lar vi være å bruke dem.
KI-retningslinjer
Jeg åpnet dette blogginlegget ved å skrive at Tromsø kommune har begått Norges første store KI-skandale. Men strengt tatt er ikke dette noen KI-skandale, men en rapport som inneholder alvorlige feil og som ikke burde vært utgitt med disse feilene. Feil som burde bli avdekket helt uavhengig av om rapporten er skrevet en KI, som har diktet opp kilder, eller av et menneske som har funnet på kilder som ikke finnes i virkeligheten.
Både digitaliseringsministeren og Tromsø kommune som skal granske denne saken, sier nå at de er veldig opptatt av å fortelle om regningslinjer for bruk av KI som det er viktig å følge, og i Tromsø skal de undersøke om de ikke ble fulgt. Ministeren har til og med laget seg syv retningslinjer på en flippover (det er godt å se at de fortsatt har noen sånne i departementet). Jeg er helt enig i at det er viktig å ha gode retningslinjer for bruk av nye teknologier og tjenester. Også retningslinjer som berører prinsippielele og etiske problemstillinger ved teknologibruk. Men i dette tilfellet er det sannsynligvis retningslinjene for den menneskelige innvolveringen og kvalitetssikringen som ikke har vært fulgt.
Ingen kommentarer :
Legg inn en kommentar