AI utmanar lagen
Självkörande bilar och beslut om ett bostadslån på några minuter. Automatisering och artificiell intelligens blir hela tiden mer närvarande i samhället. Nu gäller det att förebygga misstag, exempelvis genom lagstiftning.
Vem ska bära ansvaret om en kommun eller ett företag fattar ett felaktigt eller orättvist beslut med hjälp av artificiell intelligens (AI)? Och hur kan utvecklare försäkra att automatiserade system och AI:n inte innehåller diskriminerande fördomar?
Digitaliseringen av samhället har nått en sådan punkt att myndigheterna i Finland behöver ta ställning till olika etiska problem som kan uppstå då artificiell intelligens och automatiserat beslutsfattande blir allt vanligare. EU-kommissionen har också nyligen presenterat ett lagförslag för att reglera AI.
En instans som noggrant följer utvecklingen är Konsumentförbundet. Medan olika former av AI och automatiskt beslutsfattande blir vanligare i vardagen efterlyser Konsumentförbundet starkare konsumentskydd. Bland annat menar förbundet att framtidens lagstiftning i större omfattning behöver iaktta hur AI påverkar konsumenternas vardag.
– AI är ett förhållandevis nytt begrepp för många. Därför kan det vara svårt för konsumenter att uppfatta vad begreppet betyder och hur det skiljer sig från exempelvis automation, säger Juha Beurling-Pomoell, generalsekreterare vid Konsumentförbundet.
I en utredning som den europeiska byrån för konsumentorganisationer BEUC gjort oroar sig många konsumenter för potentiella hotbilder som AI kan medföra. Det är speciellt frågor kring integritetsskydd som väcker oro. Dessutom önskar många konsumenter ett större inflytande i de situationer där AI eventuellt utnyttjas i beslutsfattande.
– AI har en stor potential att försnabba exempelvis olika beslutsprocesser men för en konsument kan det vara oklart om en process är automatiserad eller om den faktiskt utnyttjar AI. På den här punkten behövs större transparens, säger Beurling-Pomoell.
Bristen på transparens är en central kritik mot mer avancerade former av AI. Ju mer avancerat och mångfacetterat ett system är, desto mindre inflytande och kontroll har människan över det. Då kan det också vara knepigt att avgöra vem som bär ansvaret om systemet begår ett misstag eller fattar beslut som strider mot våra samhälleliga värderingar.
Det är också den här sortens etiska frågeställningar som BeurlingPomoell lyfter fram. Exempelvis i samband med maskininlärning är det viktigt att se till att fördomar eller förvrängningar inte flyttas över till AI:n.
– En AI kan exempelvis hävda att den bästa kandidaten för en vd-post är en vithyad man eftersom den tolkar statistik på ett visst sätt. Man måste lägga särskilt stor uppmärk
En AI kan exempelvis hävda att den bästa kandidaten för en vd-post är en vithyad man eftersom den tolkar statistik på ett visst sätt. Man måste lägga särskilt stor uppmärksamhet vid sådana här förvrängningar. Juha Beurling-Pomoell Konsumentförbundets generalsekreterare
samhet vid sådana här förvrängningar, säger Beurling-Pomoell.
En central kritik som Konsumentförbundet för fram är att EUkommissionens förslag i sin nuvarande form inte innehåller särskilda regelverk som skyddar konsumenten. Förslaget garanterar exempelvis inte rätten att avstå från beslutsfattande som bygger på AI. Konsumenter ska kunna kräva att deras ärende handläggs av en person och inte en AI.
– AI ska utvecklas på konsumenternas villkor och konsumenter behöver transparens för att bättre kunna förstå begreppet, säger BeurlingPomoell.
Förbundet påpekar också att förslaget saknar rättsmedel som konsumenter kan utnyttja. I situationer där företag inte följer regelverket kring AI behövs starka rättsmedel.
Kommissionen har uttryckt att regleringen enbart ska gälla ett be
gränsat tillämpningsområde. Förslaget koncentrerar sig främst på så kallad högrisk-AI. Situationer såsom att bevilja ett bolån betraktas ha en hög risknivå. En AI som självständigt bearbetar beslut angående socialbidrag betraktas också som ett högriskfall.
Men Juha Beurling-Pomoell ser också många goda sidor med AI och automatiserat beslutsfattande. I vissa sammanhang kan en konsument få snabbare och bättre service om tjänsteleverantören lyckats utnyttja AI på ett välfungerande sätt.
– Ett sådant exempel är statens AI-program Aurora.
Avsikten med Aurora är att på ett AI-assisterat sätt underlätta tillgången till tjänster i rätt tid och på ett individanpassat sätt i olika skeden och situationer i livet.