Åpenhet og rettferdighet i algoritmens tidsalder

Abstract

Oppgavens problemstillingen er hvordan åpenhets- og rettferdighetsprinsippet skal forstås ved bruk av kunstig intelligens (KI) som beslutningsstøtte. Den raske teknologiske utviklingen har satt personvernet under stadig større press, ettersom utviklingen har muliggjort å dele, samle inn og sammenstille store mengder personopplysninger. Utviklingen av KI utfordrer måten man ser på personvern. Mens KI fortusetter bruk av store mengder data, krever personvernet bruk av så lite data som mulig. Dette reiser spørsmål om hvordan samfunnet kan dra nytte av de positive mulighetene KI gir, uten at det går på bekostning av personvernet. To forhold ved KI som gjennomgående trekkes frem som problematisk for opprettholdelse av personvernet og personvernforordningen, er manglende transparens og urettferdighet. Dersom dette ikke sikres, kan KI utfordre prinsippene om åpenhet og rettferdighet i personvernforordningen art. 5 (1) a). Manglende transparens knytter seg til at det er vanskelig å forklare hvordan KI fungerer. Åpenhetsprinsippet forutsetter på sin side at behandlingsaktiviteten kan forklares for den registrerte, slik at den kan ivareta sine rettigheter. Dette lar seg vanskelig forene med at selv utviklerne får et problem når logikken bak KI skal forklares. Rettferdighetsprinsippet i GDPR innebærer blant annet at behandling av personopplysninger ikke skal være diskriminerende, men etisk forsvarlig og i samsvar med informasjonen den registrerte har fått om behandlingen. Algoritmer gir ikke alltid rettferdige svar. KI trenes gjerne på store mengder data, som den bruker for å bygge opp en mal for hvordan den skal løse ukjente problemstillinger. Dersom dataen KIen trenes på inneholder skjevheter, for eksempel dersom den er trent på data som inneholder diskriminering, vil den lære av skjevhetene og komme med diskriminerende utfall. Dette strider med retten til rettferdig behandling av personopplysninger. Problematikken er illustrert av en rekke eksempler de siste årene. To av disse er IB-saken og beslutningsstøtte i domstoler. I IB-saken fikk avgangselever karakteren satt ved hjelp av en algoritme. Algoritmen vektla historiske data fra elevens skole, som utgjorde urettferdig behandling. Elevene og offentligheten fikk heller ikke tilgang på den underliggende logikken, og åpenhetsprinsippet ble også brutt. Beslutningsstøtte som brukes i USA i dag har vist seg å inneholde skjevheter som leder til diskriminerende utfall. Heller ikke her er det oppgitt forklaring på utfallene. KI er basert på data, som er en refleksjon av historien. KI tar ikke valg som er etiske, men matematiske. Så lenge fortiden dveler i algoritmene vil ikke KI gjøre fremskritt, men gjenskape verden slik den eksisterer. Personvernforordningen står foreløpig som en festningsmur mot misbruk av personopplysninger, som gir individer rett til tilgang, kontroll og forutberegnelighet med hvordan personopplysningene brukes. Vi forstår enda ikke hva våre data i kombinasjon med KI kan brukes til, og åpenhet og rettferdighet blir viktige rettesnorer for videre utvikling av både KI og regelverk.