Regjeringen vil at Norge skal bli verdens mest digitaliserte land innen 2030, og i front på etisk og trygg bruk av kunstig intelligens basert på demokratiske verdier. Norge skal få sin egen lov som regulerer KI, planlagt i kraft i løpet av 2026. Forslaget til KI-lov gjennomfører EUs KI-forordning og foreslår samtidig ratifisering av Europarådets rammekonvensjon om KI, demokrati og rettsstatsprinsipper (KI-konvensjonen), men uten andre endringer i nasjonal rett

EU har vært et fyrtårn for regulering av menneskesentrert, pålitelig KI som beskytter fundamentale rettigheter. I 2025 så vi derimot ett ekstraordinært skifte i EUs tilnærming til digital lovgiving, mot deregulering for å øke konkurranseevnen. Dette setter menneskerettighetene under press.

KI-forordningen alene gir ikke tilgang til effektive rettsmidler som sikrer og beskytter menneskerettighetene til personer som utsettes for KI-systemer. Samtidig er det foreslått endringer av KI-forordningen som svekker fundamentale rettigheter.

Dette strider mot forpliktelsene i KI-konvensjonen, som Norge har signert, som pålegger statene å sikre at utvikling og bruk av KI samsvarer med menneskerettighetene.

Ulike rammeverk

Høringsnotatet bygger på antakelsen at KI-forordningen er i overenstemmelse med KI-konvensjonen, og at de folkerettslige forpliktelsene dermed oppfylles. Dette er ulike rettslige instrumenter. KI-forordningen er en europeisk risikobasert, harmoniserende og horisontal, produkt- og-markedsregulering av utvikling og bruk av KI, som samtidig skal sikre fundamentale rettigheter. KI-konvensjonen er verdens første internasjonalt bindende menneskerettighetskonvensjon om KI. Den supplerer og konkretiserer generelle rettigheter som finnes i andre instrumenter.

Når KI-loven kun tar høyde for forordningen, fører det til manglende effektive og tilgjengelig rettsmidler og prosessuelle garantier for de som utsettes for KI-systemer som kan medføre krenkelse av menneskerettigheter (jf. KI-konvensjonen art. 14 og 15).

Velferden vår er i økende grad styrt av KI, og staten har et særskilt ansvar for å sikre og beskytte menneskerettighetene. Ved KI-baserte beslutninger blir spørsmålet både hvorfor og hvordan maskinene kom til beslutningen. KI kan skape en ubalanse i tilgang, forståelse og kontroll over informasjon mellom partene. Berørte kan være ukjent med risikoene, eller mangle nødvendig informasjon til å utøve sine rettigheter. KI-baserte beslutninger introduserer risikoer som manglende åpenhet og forklarbarhet, skjeve datagrunnlag, diskriminering, og misforhold mellom det systemet antar og faktisk årsak.

KI-skandalen i Nederland, der flere feilaktig ble anklaget for trygdesvindel, viser hvor dramatiske følger feil i KI-system kan få. Rett til informasjon om og forklaring av KI-baserte beslutninger er avgjørende når menneskerettigheter kan bli påvirket betydelig.

Gir begrenset beskyttelse

Fokuset i forordningen er ikke rettigheter til berørte personer, men på regulering av risiko og plikter for tilbydere og idriftsettere av KI-systemer, særlig de definert som høyrisiko. Berørte har rett til informasjon ved bruk av høyrisiko KI (art. 26(11)) og forklaring av individuelle beslutninger basert på utdata (art. 86), men anvendelsen er begrenset. Det gjelder kun på definerte høyrisiko-områder, ikke alle situasjoner hvor KI-systemet er definert som høyrisiko og kan påvirke menneskerettigheter betydelig. Lignende tilfeller vil bli behandlet ulikt.

Som illustrasjon; ved KI-basert utmåling av hjemmetjenester eller prioritering på legevakt, som inngår i de definerte høyrisikoområdene, er det en rett til informasjon om at KI tar beslutninger eller bistår, og forklaring av slike beslutninger. Men når KI brukes til diagnostisering/behandlingsforslag, vil pasienten etter forordningen ikke ha en slik rett, i strid med informert samtykke til helsehjelp.

Etter KI-konvensjonen plikter staten å sikre relevant informasjon slik at berørte kan bestride beslutninger tatt eller vesentlig informert av KI og tilgang til et effektivt klageorgan. 

EUs skifte svekker digitale rettigheter

Selv vedtatte EU-regler om KI er under endring. EUs frykt for å henge etter i KI-kappløpet har ført til forslag om å gjøre reguleringen mer næringsdyktig. I EUs digitale omnibus foreslås KI-forordningen og flere teknologireguleringer, inkludert GDPR, vesentlig forenklet for å lette oppfyllelsen og øke innovasjon. Av særlig betydning er endret definisjon av personopplysninger, økt adgang til behandling av sensitive personopplysninger til utvikling og bruk av KI-systemer og begrensninger i retten til innsyn. Sentrale krav til høyrisikosystemer og generativ KI er utsatt, registreringsplikt for KI-system som tilbyder selv vurderer ikke utgjør høyrisiko er fjernet, og kravet om KI-kompetanse er endret fra en plikt til en oppfordring. Tilsynsmyndigheter av grunnleggende rettigheter mister adgangen til å kreve informasjon direkte fra KI-tilbydere.

Dette er deregulering som svekker kontrollmekanismene, personvernet og grunnleggende digitale rettigheter til fordel for KI-utviklere, og øker risikoen for menneskerettighetsbrudd. I tillegg kan EUs nye «helsepakke» endre KI-forordningen innenfra, ved å begrense anvendelsen for medisinsk utstyr.

Når EU endrer sine prioriterte verdier for KI-suksess, og skaper rettslig usikkerhet, blir konsekvensene for individuelle menneskerettigheter og marginaliserte grupper fort ignorert. KI-loven og en ratifikasjon av KI-konvensjonen er ikke tilstrekkelig til å oppfylle Norges menneskerettslige forpliktelser.

I en verden hvor teknologigigantene får stadig mer makt og EU viser tendens til knefall for KI-industrien, må Stortinget sette tydelige rammer for bruken av KI og gi digitale rettigheter som sikrer menneskerettighetene.