Vil kjempe mot fordommer med kunstig intelligens
Til nå har kunstig intelligens (AI) ofte videreført menneskelige fordommer. Nå vil forskere bruke maskinene til å redusere vår ubevisste diskriminering.
Se for deg at du tilhører en minoritet i samfunnet og at du skal søke jobb. Men så blir jobbsøknaden sortert vekk av en kunstig intelligens, også kalt AI. At slike ting skjer, er vel dokumentert:
→ Det amerikanske Ai-systemet COMPAS antok at afroamerikanske tiltalte hadde høyere fare for tilbakefall enn de faktisk hadde. Hvite tiltalte ble vurdert motsatt.
→ Et Google-søk på sjeftittelen «CEO» ga bare 11 prosent bilder av kvinner, selv om 27 prosent av toppsjefene i USA er kvinner.
→ Amazon måtte slutte å bruke sin egen Ai-algoritme for å ansette nye medarbeidere. Selskapet oppdaget selv at den diskriminerte kvinner.
Problemene går igjen på alle felter hvor AI brukes. Systemene trenes nemlig i å etterligne våre beslutninger. For å klare det, laerer de av eksempler. Hvis eksemplene er diskriminerende, viderefører maskinen det samme mønsteret.
Nå lanseres flere metoder for å redusere fordommene. Enkelte forskere mener AI faktisk kan redusere ubevisst diskriminering som mennesker står bak.
Retter skakk Wikipedia. Wikipedia er et kjent eksempel på skjev representasjon. 80 prosent av artiklene handler om menn. 90 prosent av de som skriver artiklene er også menn, ifølge Wikipedias egne undersøkelser. Artikler om kvinner er kortere, men inneholder likevel oftere personlige detaljer som skilsmisse.
Dette var situasjonen som inspirerte Angela Fans doktorgradsarbeid ved Universitetet i Lorraine.
– Hvis du trener opp en AI på Wikipedia-artikler, vil du ikke få god representasjon av hverken kvinner eller mange andre grupper. Vi må laere oss å forstå hvordan vi kan skape mer representative treningsdata, påpeker Angela Fan i en e-post på spørsmål fra Aftenposten. I dag er hun ansatt i Meta (tidligere kalt Facebook).
Kunne kanskje AI brukes til å rette opp i skjevheten, undret hun. Ai-teknologi har nemlig blitt mye bedre til å skrive de siste årene.
Fan fikk mennesker til å skrive 1500 nye artikler om kvinner. Disse ble brukt som treningseksempler. Den ferdig trente Aimodellen kan skrive et fullstendig utkast til Wikipedia-artikkel om en kvinne. Den skriver både introduksjoner, oppveksthistorier, karrierevei og kildeliste. Informasjonen søker den selv opp på nettet.
– Foreløpig er arbeidet ren forskning. Ideen er at vi en dag skal kunne bruke AI til å justere kjønnsmessig ubalanse i det biografiske innholdet på Wikipedia. Dette er jo blant de viktigste informasjonskildene på nettet, skriver Fan.
Fan har forhåpninger til hva arbeidet hennes kan bidra med, men er foreløpig ikke helt overbevist om at det vil vaere mulig å bruke en maskin til å fjerne alle slagsidene en Ai-modell kan ha.
– Dette er jo en sti som går litt i ring. Men det er uansett klart at vi må forstå hvor slike slagsider dukker opp, og gjøre vårt beste for å skape representativ og inkluderende AI, skriver hun.
❝ Vi må laere oss å forstå hvordan vi kan skape mer representative treningsdata Angela Fans, Universitetet i Lorraine