Falske sitater, og en sikkerhetsdirektør som ikke finnes

Journalisten om NTBs artikkel

Noen ganger går det helt galt når man tar i bruk kunstig intelligens på en ukritisk måte, og lar være å sjekke påstander og kontekst opp virkeligheten. Et ganske spektakulært eksempel på det var da NTB for et par uker siden skulle skrive en sak om en ny sikkerhetsraport fra Telenor.

Telenors rapport Digital sikkerhet 2025 virker som et godt produkt som fortjener å leses av flere, og blant annet tar opp hvordan trusselbildet er i endring. Det er mye god analyse og flere gode råd om tiltak der. Det meste av rapporten handler om nettverkssikkherhet og beskyttelse mot digitale angrep, men også bruk av KI til svindel og desinformasjon har fått en sentral plass i rapporten. Både KI som verktøy for de kriminelles angrep på sikkerhet, trygghet og tillit, og KI brukt som verktøy for å forsvare virksomheter og samfunnet mot angrep, er omtalt i rapporten.

KI-havari hos NTB

Så gikk det åpenbart helt i ball for NTB da de skulle skrive pressemelding om rapporten til alle landets medier. Og fordi rapporten handler nettopp om sikkerhet, tillit, trusler og KI, er det derfor ikke bare en liten "glipp" men en alvorlig sak når noen finner på egne fakta. Saken slik den opprinnelig ble sendt ut er selvfølgelig endret på NTBs nettsider (her er en versjon med korrekte fakta). Det skjedde ganske raskt, men noen hos noen av mediene som publiserte den opprinnelige teksten finner man den fortsatt. Hos Finansavisen for eksempel. (Kanskje de har gjort dette som en tjeneste for alle som lurer på hvor galt det kan hvis man ikke har sin kritiske sans i orden) Der er den originale saken fra15. oktober. kreditert NTB, med overskriften "Telenor: Ekstremvær truer mobilnettet".

Er det så farlig om det er litt unøyaktig? Jeg tanker at når redaksjonelle medier publiserer ting som er direkte feil, ja, så er det alvorlig. Nettmediet Journalisten dokumenterer i en arikkel om saken at den opprinnelige saken hadde fem falske sitater, og i tillegg er det en sikkerhetsdirektør Håkon Berg, som er sitert, en person som kke finnes i virkeligheten. Journalisten skriver at NTB ganske raskt fikk trukket  pressemeldingen med falske sitater tilbake, og at de senere skal gransket hva som egntlig gikk galt. Nettavisen Journalisten skriver:

"Tidlig om morgenen 15. oktober gikk det alvorlig galt for NTB; da publiserte nyhetsbyrået en nyhetsmelding om Telenors årlige sikkerhetsrapport som hadde blitt sendt ut samme morgen. Kort tid etter ble hele meldingen trukket og erstattet med en annen tekst.Nå kan Journalisten fortelle nøyaktig hva som var problemet med den opprinnelige meldingen. Den inneholdt nemlig en lang rekke feil om hva Telenor uttalte og mente i rapporten. Ikke minst; av de fem direkte sitatene, som alle oppgis å være hentet fra rapporten, kan ingen gjenfinnes i originalkilden, viser Journalistens egen gjennomgang."

Sikkerhetsdirektøren som ikke finnes 

Noen av de fem sitatene kan med litt velvilje sies å være omskrivinger av setninger som finnes i Telenors rapport, mens i hvert fall et sitat er i direkte motstrid til det Telenor mener er riktig tiltak. Journalisten har referert til alle de fem, og skriver at: 

Ingen av disse direkte formuleringene er å finne i rapporten, og Telenor går for eksempel ikke ut og krever ny nasjonal standard for reservestrøm."

Men det mest spesielle av alt er at noen originale pressemeldingen ikke siterte Telenor Norges leder Birgitte Engebretsen, men sikkerhetsdirektør Håkon Berg. I versjonen av artikkelen som er på Finansavisens nettsted, står det:

"Telenor mener beredskapen står ved et veiskille og etterlyser et nasjonalt løft for å styrke robustheten i mobilnettet. – Kombinasjonen av ekstremvær, aldrende infrastruktur og digital risiko krever en ny tilnærming, skriver selskapet i forordet, signert sikkerhetsdirektør Håkon Berg."

Problemet er at det ikke finnes noen Håkon Berg som er, eller har vært, sikkerhetsdirektør i Telenor.

7 KI-tips fra Digital Norway

Hvilken konklusjon skal man så trekke av dette? At man skal slutte å bruke KI til å sammenfatte og skrive artikler om utredninger, rapporter og andre kilder til kunnskap? Jeg tror ikke det er riktig svar, til det er de positive sidene ved å ta i bruk kunstig intelligens alt for store. Utfordringen er ikke om man skal bruke KI eller ikke, men hvordan man sørger for rutiner og kvalitetssikring som sørger for at man ikke gjør slike feil, og i verste fall sprer falske nyteter.

Et godt tips her er Digital Norways 7 tips for å unngå KI-feilene. De tar utgangspunkt i denne NTB-saken som case, og beskriver noen kjøreregler man kan venne seg til å bruke. Gode råd om hvordan man bør bruke, og ikke bruke, KI, og hva man kan gjøre for å kvalitetssikre og redusere muligheten for feil. He er det gode råd om at man bør bruke KI på områder der man har kunnskap selv, og dermed kan avsløre feil, at man faktisk kan bruke KI til faktasjekk og at man kan lage ulike GPT-er til ulike oppgaver, er gode tips.

Og så har jeg veldig sans for tips nummer 7, som lyder:

"7. Jobb sammen. Ha en KI-venn eller to på jobb! (Da snakker vi om ekte mennesker, ikke om KI-assistenter). Det er fort gjort å se seg blind på egne prosjekter. Derfor kan det være lurt å ha med et par friske øyne som kan se om alt faktisk henger sammen, eller om det har sneket seg inn glipp du ikke legger merke til selv."

Akkurat det er en holdning til kvalitetssikring og faktasjekk som kan være nyttig også i andre sammenhenger i livet, og på jobben, men sannsynligvis er det slik at KI bidrar til både et tempo og en en form for samhandling med teknologien som gjør det ekstra viktig å få hjelp til å ta et skritt tilbake og se det man gjør utenfra.