Digitaliseringen av offentlig sektor er inne i en ny fase, kjennetegnet ved utviklingen innen kunstig intelligens (KI). Samtidig ligger forslag til ny forvaltningslov til behandling (NOU 2019:5), og onsdag 13. mars ble EU-institusjonene enige om innholdet i et felleseuropeisk regelverk - KI-forordningen (AI Act).

Derfor er dette et godt tidspunkt for å gi en oversikt over hvordan gjeldende og kommende lovgivning legger til rette for bruk av KI i offentlig sektor. Dette spørsmålet har vi undersøkt på oppdrag fra Nordisk ministerråd, som skal utgi fullversjonen av analysen som bokkapittel.

Vi oppsummerer her noen av funnene og anbefaler tiltak for å fremme digitalisering og bruk av KI i offentlig sektor på en forsvarlig måte.

Hvordan vil KI bli brukt?

Utlendingsdirektoratet (UDI) fikk prisen for beste offentlige digitaliseringsprosjekt i 2022 for sitt arbeid med å automatisere behandlingen av statsborgerskapssøknader. Målet var å la saksbehandlere bruke tiden sin på de mer komplekse sakene. I dag blir mange behandlet helt automatisk, i første instans.

Et annet eksempel er at NAV i et kontrollert «sandkasseprosjekt» har testet ut KI til forutsigelse av varigheten ved sykefravær, for å gi bedre beslutninger om innkalling til dialogmøter. Dette skal redusere unødvendige møter som tar opp ressurser og tid hos NAV, sykemeldte og arbeidsgivere.

Lovgivningen

Når vi studerer endringer i lovverket for offentlig sektor i nyere tid, ser vi særlig to hovedtrekk som oppsummerer lovgivers taktikk for digitaliseringsfremmende lovgivning.  

For det første har det blitt gjennomført en rekke lovendringer for å legge til rette for datadeling mellom offentlige organer og gjenbruk av data. Fra lovgiverhold har tilgang til data på tvers av institusjoner lenge vært sett på som en nøkkelfaktor for digitaliseringen. Borgernes tilgang til egne opplysninger som behandles av det offentlige står også høyt på digitaliseringsagendaen.

For det andre inneholder lovgivningen flere enkeltstående bestemmelser som skal muliggjøre bruk av automatiserte beslutningsprosesser. Eksempler finner vi i NAV-loven, skatteloven, pensjonskasseloven og pasientjournalloven. I henhold til disse lovene kan helautomatisering skje når en beslutning beror på klare kriterier der det ikke er tvil om hva resultatet må bli, eller der beslutningen som skal treffes har liten betydning for den enkelte.

Bestemmelsene tar sikte på programvare som kan anvende klart avgrensede kriterier, basert på forhåndsprogrammerte regler. Kongstanken for denne typen automatisert saksbehandling er, ifølge forvaltningslovutvalget, at den skal sikre likebehandling.

Programvare som utelukkende fungerer basert på regler som er forhåndsprogrammert av mennesker, regnes vanligvis ikke som KI. Europeiske AI Act ekskluderer systemer der reglene som anvendes er fullt ut forhåndsprogrammert av mennesker, fra definisjonen av kunstig intelligens. Vi kan derfor si at gjeldende regler for automatisert saksbehandling ikke legger til rette for bruk av KI.

Hva får vi med KI-forordningen?

I norsk lovgivningssammenheng har KI blitt sett på som noe ukontrollerbart, som det ikke er aktuelt å bruke i automatisert saksbehandling. Med KI-forordningen får vi et nytt utgangspunkt: KI som oppfyller nærmere definerte krav, skal i utgangspunktet kunne brukes trygt.

Når det gjelder spesifikke tiltak for å fremme digitalisering, kommer ikke KI-forordningen med mye nytt, sett med norske øyne. Det legges til rette for en sandkasseordning for utprøvning av KI, men her ligger Norge foran Europa – norske aktører har lekt seg i Datatilsynets KI-sandkasse en stund allerede. KI-forordningen gir imidlertid klarere rammer for testing av KI-systemer utenfor sandkasseprosjekter, sammenlignet med det vi har fra før.

Det viktigste med KI-forordningen er at vi får et mer helhetlig – om ikke fullstendig – rammeverk for KI. Norges lover preges av enkeltstående løsninger, som har kommet til for å møte nye øyeblikksbehov etter hvert som de har oppstått.

Hva mer trengs?

I lys av det som finnes og det som kommer, foreslår vi følgende tiltak:

  • Reglene om automatisert saksbehandling bør vurderes, gitt at KI-systemer nå blir underlagt felles krav som skal gjøre det trygt å bruke teknologien. Reglene for digital forvaltning bør gjenspeile at KI er legitimt og vil bli en sentral del av automatiserte saksbehandlingssystemer.
  • Det må utredes hvilke regler som bør gjelde på samfunnsområder som faller utenfor KI-forordningens virkeområde. Dette gjelder KI ment for militære formål eller for ivaretakelse av nasjonale sikkerhetsinteresser. Enkelte unntak gjelder dessuten for rettshåndhevelse, migrasjon, asyl og grensekontroll. Her kan bruk av KI kan ha stor betydning for enkeltpersoner.
  • På noen forvaltningsområder er det trolig behov for tydeligere regler for bruk av personopplysninger og andre data til utvikling av KI. For eksempel konkluderte det nevnte sandkasseprosjektet i NAV med at det ikke var rettslig grunnlag for å bruke historiske data om sykefravær til å trene KI-systemet. Et tiltak som etter vår erfaring har vært innovasjonsfremmende, er ordningen for søknader om tilgang til data fra pasientjournaler for utvikling av kunstig intelligens, som ble innført i helsepersonelloven i 2021.
  • Det bør utredes hvordan offentlige anskaffelser kan brukes til å fremme forsvarlig innføring av KI. Gjennom anskaffelser kan det f.eks. stilles mer spesifikke krav enn det som kan gjøres gjennom lovgivning, for å ivareta norske interesser på de ulike forvaltningsområdene.