Særlig innen juss er det kritisk for rettssikkerheten at kommunen får det riktig.

Les: Brukte oppdiktede høyesterettsdommer i debatt om okkupanter

Jeg og mine kolleger som forsker på pålitelig juridisk KI sammen med SINTEF, vet hvilken risiko det ligger i å bruke KI i rettsanvendelsen. 

Etter vår erfaring må fire ting være til stede for å minimere risiko for feil: Oppslag i ekte rettskilder, juridisk metode i instruksjonen, sporbare henvisninger som kan verifiseres, og en modell som er god til å resonnere.

Dette må være på plass hos kommuner som vil kombinere helt nødvendig innovasjon med avgjørende kvalitet.

Må ettergås

For det er bra at offentlig sektor har begynt å bruke KI i saksbehandlingen. Men, Asker-saken viser at saksbehandlere mangler grunnleggende forståelse for hvordan teknologien fungerer. En generell chatbot er ikke et oppslagsverk med en database med verifiserte kilder. 

Det er en språkmodell som blander alt den har sett, og produserer noe som ser riktig ut. Henvisningen HR-2020-2135-A ser korrekt ut, men finnes ikke.

Jusprofessor Anine Kierulf har rett når hun sier til VG at det er greit å bruke KI i saksbehandling så lenge det ettergås og kvalitetssikres. 

Problemet, som hun også påpeker, er at «hvis man ikke er trent i det stoffet, er jurist eller sjekker dommer opp mot Lovdata, så er det ikke så lett å ettergå». Mye av det Asker fikk ut, var «juridisk holdbart et stykke på vei». Det er der det blir farlig: Når feilen er sofistikert nok til å få passere.

Men riktig brukt kan KI være mer presis enn ett menneske: Vals AI – et selskap som benchmarkerer KI-verktøy, testet i 2025 både juridiske KI-verktøy og generelle modeller på ekte juridiske oppgaver. Begge traff i 80 prosent av tilfellene. Gjennomsnittsadvokaten lå på 71 prosent.

Hallusinasjoner

Hallusinering i KI er ikke en feil. Det er hvordan språkmodeller fungerer: De gjenkjenner mønstre, ikke fakta, og produserer et overbevisende resultat. Skal du bruke KI til juridiske spørsmål, må verktøyet bygges for å håndtere nettopp den svakheten. 

En mulighet en juridisk KI som verifiserer kilder og svar, estimerer usikkerhet, og avgjør når et svar må gjennomgås av en fagekspert, slik vi har bygget i Lexolve.

I KI-fagfeltet kalles det «human in the loop», en jurist tar over når KI-en ikke er sikker nok. Dette kunne vært noe for saksbehandlerne i kommunen også. 

Det enkleste for kommunen er å legge skylden på den ene saksbehandleren i Asker. Men jeg vet om tingrettsdommere som søker etter høyesterettsdommer i Copilot. Dette er ikke mangel på sunn fornuft. Det er mangel på grunnleggende forståelse av forskjellen mellom en språkmodell, en database og et søkefelt. Den forståelsen kommer ikke av seg selv.

Kunnskapen om KI må nå ut til dem som faktisk bruker verktøyene. Det ansvaret ligger hos arbeidsgiveren; kommunen. 

Vi trenger et kompetanseløft rundt trygg bruk av KI, før vi får neste kommunevedtak basert på et oppdiktet rettslig grunnlag.