Hvorfor trenger vi en helhetlig regulering av KI-systemer?
KI representerer et hav av muligheter for den norske velferdsstaten. En trenger ikke å se lenger enn til Datatilsynets regulatoriske sandkasse for å se at maskinlæring er på alle offentlige etaters agenda; Arbeids- og velferdsdirektoratet har blant annet forsøkt å benytte KI til å predikere varigheten av sykefravær, mens Akershus universitetssykehus har testet ut hvordan KI kan benyttes til å fastslå sannsynligheten for at en pasient vil få hjertesvikt.
Selv om det er en stor iver blant offentlige instanser om å benytte maskinlæring til å effektivisere og forenkle, er det ingen tvil om at bruken av KI-systemene må skje innenfor et juridisk rammeverk. Historien har vist at en overambisiøs bruk av maskinlæringssystemer kan føre til krenkelser av helt grunnleggende rettigheter og friheter. Et godt eksempel på dette er den såkalte SyRI-saken, som er nærmere omtalt av Jon Christian Fløysvik Nordrum og Ingunn Ikdahl her.
Hva er KI-forordningen?
KI-forordningen har til formål å utforme et juridisk rammeverk som sikrer en trygg og tillitvekkende bruk av maskinlæringssystemer.
Det felleseuropeiske regelverket tar utgangspunkt i en risikobasert tilnærming til ulike KI-systemer, noe som innebærer at vilkårene for å anvende et gitt KI-system vil bero på hvor stor risiko systemet utgjør overfor grunnleggende felleseuropeiske verdier, rettigheter og friheter.
Forordningen operer med fire ulike kategorier av risiki: (i) uakseptabel, (ii) høy, (iii) begrenset og (iv) minimal. Systemer som utgjør en uakseptabel risiko er forbudte. Høyrisikosystemer kan kun benyttes dersom nærmere definerte vilkår er oppfylt, mens systemer med begrenset risiko må oppfylle bestemte transparenskrav etter artikkel 50. Systemer med lav risiko er imidlertid ikke underlagt noen særlige krav eller reguleringer.
KI-forordningen og dens betydning for norsk forvaltning
For den norske forvaltningens vedkommende, vil særlig reglene om KI-kyndig personell etter artikkel 4 og transparenskrav for KI med menneskelig interaksjon etter artikkel 50, være regler som forvaltningsjurister bør vie oppmerksomhet. Den førstnevnte regelen innebærer at offentlige virksomheter som benytter kunstig intelligens i sitt virke, plikter å ha medarbeidere som besitter tilstrekkelig kompetanse om maskinlæringssystemer. Den sistnevnte regelen oppstiller en plikt for forvaltningsorganer som benytter KI-systemer, til å informere sine brukere om at de interagerer/samhandler med KI.
Forordningen oppstiller dessuten enkelte krav til maskinlæringssystemer i artikkel 9 – 15, som også vil være relevante for norsk forvaltning. Et eksempel er artikkel 10 nr. 5, som slår fast at en kan behandle særlige kategorier av personopplysninger med det formål om å avdekke skjevheter i datagrunnlaget til KI-systemer. Dette er en viktig regel som kan bidra til å forebygge diskriminering av borgere som benytter seg av forvaltningens tjenester. En utfordring med KI-systemer er nemlig at skjevheter og svakheter i datagrunnlaget kan føre til at systemet produserer diskriminerende resultater. Det ovennevnte sandkasseprosjektet til Ahus er et godt eksempel på dette. Funnene fra prosjektet illustrerer at maskinlæringssystemer som operer med et mangelfullt eller utilstrekkelig datagrunnlag, kan risikere å feildiagnostisere persongrupper som er underrepresentert i datagrunnlaget, og på denne måten behandle visse pasientgrupper dårligere enn andre. KI-forordningen artikkel 10 søker å nøste opp i denne problematikken, ved at en nå får en (nokså snever) adgang til å «mate» systemet med flere opplysninger slik at KI-systemet får tilgang til et mer fullstendig datagrunnlag.
Er KI-forordningen løsningen på et fragmentert rettskildebilde?
For å imøtekomme digitaliseringens inntog i den norske velferdsstaten, har lovgiver hittil valgt å innføre enkeltbestemmelser eller utforme nye forskrifter. Dette er imidlertid en uheldig løsning, da lovverket på sikt blir fragmentert og lite tilgjengelig.
KI har med andre ord tydeliggjort behovet for en aktiv lovgiver. Utviklingen og bruken av maskinlæringssystemer må skje side om side med jussen. KI-forordningen er et steg i riktig retning, ved at vi nå får en helhetlig og mer oversiktlig regulering av KI.
.jpg?alt=listing)
