AI-verktyg används i allt fler verksamheter. Det kan handla om verktyg som hjälper till att sortera vem som går vidare i en rekryteringsprocess, vem som får socialbidrag eller hur antagningen till olika skolor går till.

När det gäller myndighetsbeslut finns det lagkrav på att man ska kunna överklaga. Och det finns en förväntan på att förstå vad besluten grundar sig på så att medborgarna litar på att det har varit en rättvis process. Men de AI-verktyg som finns idag har inte alltid den spårbarheten, enligt Abeba Birhane. Istället har du i vissa program "en svart låda" med väldigt många parametrar som samverkar med varandra. Spårbarheten behöver byggas in i AI-tjänsterna från grunden. Det är därför etisk AI och hur besluten fattas av AI-tjänsterna blir en fråga om makt, demokrati och rättssäkerhet.

Vi behöver en sund skepsis till AI-teknikens möjligheter.

Abeba Birhane

Därför är etisk AI en av samhällets viktigaste frågor

Abeba Birhane, är forskare i kognitiv beteendevetenskap och datavetenskap. Hon bor på Irland och arbetar vid University College i Dublin. Ett av Abeba Birhanes forskningsområden är etisk AI och hur man ska säkerställer individens rättigheter vid automatiserade beslut.

– De positiva effekterna och fördelarna med AI dominerar debatten och är alldeles för överdrivna. Det finns till och med företag och enskilda forskare som sprider felaktig eller vilseledande information om den teknik som de släpper. Med tanke på det behöver vi utveckla en sund skepsis till AI-teknikens möjligheter, säger hon.

Abeba Birhane forskar i den viktiga skärningspunkten mellan människa, samhälle och teknik. Hon lyfter särskilt behovet av att vara medveten om vad det innebär att överlåta beslutsfattande för viktiga samhällsbeslut till AI-system som inte redovisar grunden för besluten. Det finns ingen garanti att systemet är programmerat så att det tar hänsyn till lokal lagstiftning eller individens rättigheter.

Felaktigheter i koden är svåra att upptäcka

Abeba Birhanes mest uppmärksammade arbete handlar om så kallad algoritmisk bias. Det handlar om när utvecklare bygger in fördomar i själva koden som är grunden för de beslut, rekommendationer och analyser som olika system gör. Fördomarna finns både hos utvecklaren själv och i den stora mängd data som systemet tränats på. Nästan ingen data är neutral utan bygger på värderingar både i vilken data som används och hur den tolkas.

Tillsammans med maskininlärningsforskaren Vinay Prabhu visade Abeba Birhane att stora mängder bilddata som användes i populära AI-verktyg var rasistiska och kvinnofientliga.

– Det är avgörande att program för automatiserade beslut utvärderas och testas noggrant för att säkerställa att de fungerar på ett rättvist och icke-diskriminerande sätt. Det är också oerhört viktigt att de inte kodar för historiska och samhälleliga stereotyper, eller att de förvärrar maktobalanser eller andra former av orättvisor, säger Abeba Birhane.

Nyanser av verkligheten försvinner i översättningen

Hur översätter man en komplex verklighet till kod som datorn förstår? Abeba Birhanes forskning visar att data inte är neutral och att inbyggda värderingar hos dem som skapar systemen kan få stora konsekvenser för både individen och samhället. Hon pekar också på risken att mycket går förlorat när vi ska "översätta" en komplex verklighet så att maskininlärningsverktyg och AI-system kan förstå den.

På Internetdagarna 2023 pratar Abeba Birhane om varför etisk AI är en fråga för hela samhället. Om makt, fördomar och individens rättigheter i den artificiella intelligensens tid.