En italiensk dom om algoritmer og en masteroppgave

Jeg skal skrive en komparativ masteroppgave ved å se på hvordan digitalisering skjer i Europa, spesielt i Italia, og sammenligne med digitalisering i norsk forvaltning. I Norge digitaliser vi forvaltningen vår, men får sjelden rettslige avklaringer i Høyesterett. Digitalisering og kunstig intelligens har påvirket forvaltningen i flere land i Europa, men lovgivningen holder ikke tritt. Behovet for lovgivning understrekes av den nylig vedtatte KI-forordningen i EU. Det kan derfor være interessant å se hen til Italia som har avgjørelser i forvaltningsdomstolen om algoritmer. 

Heller ikke i Italia har utviklingen av algoritmiske forvaltningsavgjørelser blitt ledsaget av lovgivning. Dette har ført til at forvaltningsdomstolen har utarbeidet prinsipper for å beskytte borgerne og sikre korrekt bruk av kunstig intelligens i forvaltningen. 

En dom fra siste instans i Italias forvaltningsdomstol (Consiglio di Stato n. 2270/2019) viser verdien av å sammenligne norsk forvaltning med et annet land sin. Den gjaldt bruken av en algoritme i en helautomatisert beslutning for ansettelse av lærere i videregående skole. I Italia skjer ansettelse av lærere nasjonalt gjennom regionale prosedyrer, det betyr at de ikke ansettes direkte av skolene. Det ble derfor utviklet en algoritme som skulle tildele lærerne ulike skoler. 

Algoritmen fungerte ikke som forventet. Lærerne ble ansatt i skoler langt unna sine hjemprovinser og fikk tildelt feil fagområde. De ble heller ikke ansatt i samsvar med uttrykte preferanser, og ansiennitet ble ikke respektert. Flere lærere klagde derfor inn avgjørelsene til domstolen og hevdet hele saksbehandlingen ble styrt ved hjelp av en algoritme som de ikke visste hvordan fungerte. De fikk ikke begrunnelse for ansettelsen og de kunne heller ikke identifisere en saksbehandler for hver enkelt ansettelse som kunne redegjøre for de relevante avveiningene som ble tatt. 

Domstolen tok anken fra lærerne til følge og konkluderte med at prinsippene om  upartiskhet (imparzialità), offentlighet (pubblicità) og transparens (trasparenza) ikke ble fulgt. Det var heller ikke mulig å forstå hvordan de tilgjengelige stillingene ble tildelt, som i seg selv var en feil. 

Domstolen hadde likevel en positiv holdning til digitalisering av den offentlige forvaltningen, og presiserte at dette var i tråd med de generelle forvaltningsrettslige prinsippene om effektivitet og god forvaltning i den italienske konstitusjonen artikkel 97  og lov 241/90 om forvaltning og offentlighet. Forvaltningsdomstolen understreker at de digitaliserte prosedyrene må følge prinsippene og ikke omgå dem. Domstolen nevner disse punktene om algoritmiske regler: 

• De er rettsregler selv om de står skrevet i matematisk form, og må derfor følge reglene om bl.a. offentlighet og transparens. 

• Algoritmen kan ikke utøve skjønn, med mindre skjønnet er forhåndsbestemt. 

• Forvaltningen må føre en kontinuerlig ex ante kontroll med algoritmen, særlig er dette viktig for dyp læring. Jurister må derfor delta aktivt i alle algoritmens utviklingsfaser. 

• Et styrket prinsipp om transparens skal sikre at algoritmen er kjent. Dette er også viktig for å sikre domstolens mulighet til å overprøve forvaltningsrettslige avgjørelser der algoritmer brukes. 

I masteren min vil jeg se på forklarbarhet av algoritmer, men gi særlig oppmerksomhet til begrunnelseskravet. Hvordan kan vi begrunne en avgjørelse som en algoritme har tatt for oss? Og hva skjer når vi ikke vet hvordan programmet kom fram til avgjørelsen? Hvis du har innspill så gjerne send meg en e-post på annaclan@uio.no.