Seminaret ble innledet av prosjektlederne professor Ingunn Ikdahl og førsteamanuensis Jon Christian Fløysvik Nordrum. De presenterte prosjektet Digital velferdsstat og gav en overordnet presentasjon om temaet for seminaret; digital diskriminering.
Først ut på programmet var Likestillings- og diskrimineringsombud Bjørn Erik Thon. Bjørn Erik snakket om ombudets rolle og deres arbeid, før han diskuterte ulike utfordringer og muligheter for ombudets arbeid med digital diskriminering. Neste på programmet var leder for NAVs dataseksjon Cathrine Pihl Lyngstad. Cathrine fortalte om NAVs arbeid med kunstig intelligens og hvordan de arbeider for å unngå at bruk av KI skal være diskriminerende. Deretter presenterte vitenskapelig assistent Erle Katrine Sivertsen fra SODI-prosjektet resultatene fra hennes masteroppgave. Erle skrev om forholdet mellom diskrimineringsforbudet og tilbydere av eIDs kontraheringsplikt. Til slutt i første bolk var vitenskapelig assistent Synne Oppedal Midtgård fra prosjektet Digital velferdsstat, som presenterte hennes masteroppgave om digital utstøting og diskriminering.
Neste bolk startet med Mareile Kaufmann, professor ved IKRS og UIO, som snakket om “Speculative identities Big DNA Data and the Issue of Identification”. Deretter fortalte stipendiat ved UIT, Mathias Hauglid, om “Algorithmic discrimination in healthcare”. Sist, men ikke minst, snakket professor Sofia Ranchordas fra University of Groningen om “Automated government for vulnerable citizens”. Begge sekvensene ble avsluttet med spennende diskusjoner!
Det var flere spennende temaer som ble presentert under seminaret. Noen av de overordnede spørsmålene som ble diskutert var blant annet, men ikke begrenset til: Hva er egentlig digital diskriminering? Hvem har ansvaret for å følge opp digital diskriminering? Hva kan gjøres for å hindre digital diskriminering?
Ett av temaene som gikk igjen var tilgangen til digitale tjenester. Flere av innlederne trakk frem ulik tilgjengelighet på digitale tjenester som en utfordring. Cathrine Pihl Lyngstad fortalte om chatboksen Frida, som ved hjelp av KI bistår mange brukere, men som kun er tilgjengelig for brukere som behersker norsk. Erle Katrine Sivertsen pekte på at personer som ikke er vernet av likestillings- og diskrimineringslovgivningen kan være hindret tilgang til eID, med den konsekvens at de ikke har mulighet til å delta i det digitale samfunnet. Sofia Ranchordas pekte på hvordan tjenester ofte utvikles ut fra en idé om at gjennomsnittsborgeren er digitalt kompetent og ressurssterk. Hun trakk frem utfordringer med språkforståelse, digital kompetanse og sammensatte sårbarheter som hinder for deltagelse i offentlige tjenester. Dette ble også problematisert i prosjektpresentasjonen til Synne Oppedal Midtgård, som påpekte at ulike grupper av mennesker som ikke har tilgang til de digitale tjenestene kan ha ulikt diskrimineringsvern.
En annen gjenganger var diskriminerende algoritmer. At den digitale tjenesten i seg selv kan være diskriminerende trakk innlederne frem som en utfordring. Mareile Kaufmann snakket om utviklingen av algoritmer innen identifisering i politiets etterforskingsvirksomhet. Særlig trakk hun frem viktigheten av å se på skjevhet som kan være et resultat av menneskelige beslutninger. Mathias Hauglid fremhevet viktigheten av å være oppmerksom på ulike måter bruk av algoritmer kan resultere i diskriminering innenfor helsesektoren. Han pekte blant annet på hvordan algoritmer som identifikasjon av pasientgrupper kunne utgjøre en risiko for feilbeslutninger. Felles for innlederne som snakket om bruk av algoritmer var viktigheten av å utvikle algoritmene på en ikke-diskriminerende måte, samt ta i betraktning de potensielle utfordringer som følger med slik bruk. Cathrine Pihl Lyngstad fremhevet at en målsetning for NAVs arbeid med kunstig intelligens er at systemet skal være rettferdig. Samtidig fremhevet hun at vurderingstemaet av rettferdighet i et system byr på vanskelige vurderinger. Mathias Hauglid viste blant annet til EUs arbeid rundt kunstig intelligens og pekte på at likestillings- og diskrimineringsspørsmål vil være en viktig del av risikovurderinger før systemer kan tas i bruk. Sofia Ranchordas trakk frem motsetningsforholdet ved at algoritmer kommer med prediksjoner og først underlegges lovgivning i etterkant.
Ønsker du å holde deg oppdatert på fremtidige arrangementer fra Digital velferdsstat? Meld deg på e-postlisten vår her.
.jpg?alt=listing)
