Ny rapport: Lite kunnskap og kompetanse om kunstig intelligens og diskriminering

– Forventningene til de positive effektene av økt digitalisering er høye. Bruk av kunstig intelligens reiser imidlertid vanskelige spørsmål. Ett av dem er hvilken risiko for diskriminering dets bruk i offentlig sektor kan medføre, sier Anna Bjørshol, avdelingsdirektør i Bufdir.

Det er stor oppmerksomhet rundt kunstig intelligens, og bruk av kunstig intelligens i offentlig forvaltning øker. Rapporten illustrerer at statlige og kommunale virksomheter, som har prosjekter som inkluderer kunstig intelligens og persondata, i varierende grad har kunnskap om risiko for diskriminering.

– Rapporten viser at det er behov for synliggjøring, bevisstgjøring og økt kunnskap om diskrimineringsrisiko i prosjekter som tar i bruk kunstig intelligens, sier Bjørshol.

Rambøll Management Consulting har, i samarbeid med Vestlandsforskning, undersøkt bruk av kunstig intelligens i offentlig sektor, oppmerksomhet rundt risiko for diskriminering, samt hva som gjøres for å forebygge slik risiko. Rapporten er basert på en spørreundersøkelse blant virksomheter i statlig og kommunal sektor og dybdeintervjuer med virksomheter som hadde pågående prosjekter som behandlet persondata. Hele rapporten ligger tilgjengelig her

Lite kompetanse

En av fem svarte i undersøkelsen at organisasjonen ikke har tilstrekkelig kompetanse om risiko for diskriminering i slike prosjekter, og et fåtall hadde klare strategier for å håndtere diskrimineringsrisiko. Kun 3 % mente at kunstig intelligens kan øke risiko for diskriminering, og det ser ut til at det er lite oppmerksomhet rundt problemstillingen.

– Rapporten viser at risiko for diskriminering i liten grad blir oppfattet som sentralt i utfordringsbildet knyttet til kunstig intelligens. Dette kan øke risikoen for diskriminerende effekter, sier Bjørshol.

Bevisstgjøring

Det er et klart mål i gjeldende politikk om økt brukt av kunstig intelligens i offentlig sektor. Rapporten viser at politisk drivkraft og forventninger imidlertid kan føre til at virksomheter setter i gang prosjekter som fremdeles er umodne.

Alle offentlige myndigheter er lovpålagt å jobbe aktivt, målrettet og planmessig for å fremme likestilling og hindre diskriminering i tjenester og forvaltning, etter aktivitets- og redegjørelsesplikten. Denne plikten gjelder også for bruk av kunstig intelligens i offentlig sektor.

– Bufdir mener det er viktig at utfordringer knyttet til kunstig intelligens og risiko for diskriminering løftes. For å lykkes med bruk av kunstig intelligens i offentlig sektor, mener Bufdir at det er behov for økt kunnskap og veiledning om diskriminering og kunstig intelligens, sier Bjørshol.

Kunstig intelligens er for flere offentlige virksomheter fremdeles i utforskningsstadiet. Det foreligger dermed et stort potensial å kunne forebygge diskriminering ved bruk av kunstig intelligens i offentlig forvaltning, gjennom offentlig diskusjon og bevisstgjøring.