Et forlag ønsker å benytte en KI-generert stemme av Knut Hamsun for å publisere lydbok av Sult. Temaet er mer kontroversielt en man skulle tro og illustrerer behovet for lovregulering av KI.

Ytringsfriheten og opphavsretten til tross eksisterer det ingen direkte føringer for KI i dag, hverken i Norge eller internasjonalt. Flere innlegg i Rett24 har diskutert saken om Hamsuns stemme og KI. Debatten har gått mye rundt ytringsfrihet og at verkene til Hamsun i dag ikke er beskyttet av opphavsretten. Ikke minst hvor hadde kulturverden vært i dag uten Elvis-imitatorene?

De lege ferenda vurderinger er typisk nok for jurister uteblitt, med unntak i Sondre Knudsens innlegg. Hvilke føringer er ønskelige for et demokratisk samfunn å ha for bruk av KI? Debatten om lovregulering bør tas når dette området mangler omfattende lovgivning.

Lovregulering mangler

Flere tyr til analogisk anvendelse av reglene for imitasjon, satire og kunst for KI. I motsetning til Olav Torvund mener jeg vi bør og skal henge oss opp i teknologien, for det er en vesentlig forskjell på menneskelig imitasjon og bruk av KI basert på maskinlæring. Et menneske som bruker sine egne evner, kropp og verktøy for å imitere eller skape, er et kunstnerisk uttrykk beskyttet av ytringsfriheten. Dette står i kontrast til et dataprogram, som blir matet med data for å skape et simulakrum av en persons biometri. For det er det det er tale om: Et simulakrum av biometri, ikke imitasjon, karikering eller kunst. Dette skaper både etiske og juridiske spørsmål.

Snart vil vi stå overfor en virkelighet hvor KI kan generere lyd og bilder som er så overbevisende at de ikke kan skilles fra virkeligheten med det menneskelige øyet eller øret. Det vil være bekymringsverdig å ikke ha på plass lovverk før den tid. Misbruk og manipulasjon kan skape alvorlige konsekvenser både for individ og samfunn. Fake-news er allerede et voksende samfunnsproblem.

Etiske problemstillinger

De etiske problemstillingene står nærmest i kø:

  • Maskinlæringen kan basere seg på data hvor man ikke har hatt rettighetene til denne type bruk. Transparensen under maskineriet til KI er ikke-eksisterende. Er det akseptabelt og lovlig bruk av utdata, når inndata er ulovlig innhentet? Er det problematisk å ikke vite om inndata er ulovlig innhentet eller ikke?
  • Posthum bruk uten innhentet samtykke er i seg selv en etisk problemstilling. Ønsker vi et samfunn der hvem som helst av oss kan «gjenopplives» så lenge vi har vært døde lenge nok til at opphavsretten ikke lengre gjelder? Hva da med personvernet og retten til å bli glemt? Tross alt er det tale om simulerte biometriske data, ikke bare en karikert imitasjon av ens stemme.
  • Skal politiet kunne benytte KI for bruk av forbigåelse av stemmeautentisering? Hva da med retten til å forholde seg taus?
  • Hvem holdes ansvarlig hvis ulovlig materiale genereres uten at bruker har forespurt dette?

Hollywood-streik

Som Knudsen skriver, har Hollywood nettopp hatt streik fordi de er redde for at levebrødet deres forsvinner når deres særegenheter så enkelt og presist kan fremstilles. Hva med etter deres død? Hvor mange ganger skal deres personvern krenkes for publikums forlystelse? Skal det være adgang til også å bruke deres likhet til pornografi eller nakenscener i vanlige filmer? Hvor langt strekker et eventuelt samtykke seg, og kan det trekkes av rettighetshavere etter død?

I dag har man register for HLR minus pasienter, altså et register for dem som ikke ønsker livreddende tiltak i akutte situasjoner. Man har også organdonorregister. Et forslag kan være å ha et samtykkeregister for bruk av KI til å benytte sin likhet etter ens død.

Lovgiver må kjenne sin besøkelsestid

Vi er foreløpig bare i innledende fase av denne nye teknologien. Vi kjenner sannsynligvis ikke til det fulle potensialet av teknologien. Er det virkelig slik at professorer i rettsvitenskap og advokater ikke ønsker rettsregler på dette området fordi vi har ytringsfriheten og åndsverkloven? Ytringsfriheten har også grenser. Samfunnet har behov for en avklaring for ytringsfrihetens grenser knyttet til KI. Jeg for min del spiller ballen videre til lovgiver.

Jeg venter i spenning, men holder ikke pusten.