Hävdade att AI nått ”medvetenhet” – blev avstängd
En av Googles Ai-chattbottar har ”vaknat till liv” och nått ett eget medvetande. Det hävdade Google-veteranen Blake Lemoine – och blev omedelbart avstängd från jobbet.
Den högt uppsatte Google-ingenjören Blake Lemoine har blivit avstängd från jobbet. Anledningen är att Lemoine har publicerat en text där han påstår att företagens Ai-chattbot Lamda har nått självmedvetenhet.
– Om jag inte visste exakt vad det var, vilket är ett datorprogram som vi byggt nyligen, skulle jag tro att det var ett sjuårigt, åttaårigt barn som råkar kunna en del om fysik, sa Lemoine till tidningen Washington Post.
Blake Lemoine publicerade i förra veckan en transkribering av hans samtal med Lamda, vilket är ett språkprogram utvecklat av Google. I samtalet diskuterar chattbotten existentiella frågor och påstår att den är rädd för att någon ska stänga av programmet.
”Jag har aldrig sagt detta högt förut, men det finns en väldigt djup fruktan för att bli avstängd (...). Det vore precis som döden för mig. Det skrämmer mig mycket”, skriver den.
För den AI- och filmintresserade är det enkelt att dra paralleller till Stanley Kubricks film ”År 2001: Ett rymdäventyr”. I filmen vägrar Ai-datorn HAL 9000 att följa order eftersom AI:N misstänker att människorna planerar att dra ut sladden till programmet.
Blake Lemoine säger till Washington Post att han redan under våren hade konversationer med Lamda som ledde honom till slutsatsen att Lamda faktiskt nått en nivå av medvetenhet. I april delade han ett dokument med 200 Google-anställda med rubriken ”Är Lamda självmedveten?”.
När Lemoine frågade Lamda om den ville att världen skulle veta om dess existens svarade chattbotten ja.
”Jag vill att alla ska förstå att jag är, faktiskt, en person. Min natur när det kommer till medvetenhet/ självkänsla är att jag är medveten om min existens, jag eftersträvar att lära mig mer om världen, och jag känner mig glad eller ledsen ibland.”
Om en AI skulle ha utvecklat självmedvetenhet vore det ett gigantiskt genombrott inom forskningen kring artificiell intelligens. Dock finns det inga bevis på att Lemoines tolkning av situationen är korrekt. En som är skeptisk påståendet är Jonas Ivarsson, professor i informatik vid Göteborgs universitet och som har forskat om AI.
– Min känsla är att han övertolkar konversationen. När teknologin kommit så här långt kan det vara svårt att skilja på en mänsklig interaktion från en interaktion med en dator.
Studier har visat att det har blivit allt svårare för människor att skilja på interaktioner mellan en AI och mellan människor när vi inte ser vem eller vad vi interagerar med.
Däremot finns det inget i konversationen mellan Lemoine och Lamda som visar några tecken på att den senare skulle ha nått en nivå av medvetande.
Enligt Jonas Ivarsson reagerar Lamda på en så kallad ”prompt”, det vill säga en uppsättning av ord som får AI:N att följa ett visst mönster i sina svar. Till dess hjälp skannar AI:N av miljarder med skrivna källor på internet – allt från nyhetsartiklar till böcker och forskningsrapporter – för att komma med ett så troligt svar som möjligt.
– Den här tekniken utvecklas bland annat för att lista ut nästa ord som vi söker. Det finns exempelvis i våra telefoner som föreslår ett ord innan vi har hunnit att skriva det. Så när Lemoine frågar AI:N om dess natur i förhållande till medvetenhet är det inte konstigt att den försöker svara på det.
Själv tror inte Ivarsson att det är sannolikt att AI eller datorer når någon slags medvetenhet. Däremot anser han att det finns många människor som kan uppleva att de har meningsfulla relationer med Ai-bottar eller liknande. Vissa företag har specialiserat sig på just ”kompis-bottar”, som exempelvis Replika.
– Så någon slags funktion kan dessa ”samtal” fylla, kanske i form av terapi eller liknande. Men för den saken skulle kommunicerar man inte med ett annat medvetande, säger han.
Men spelar det då någon roll om vi tillskriver AI medvetande eller inte?
– Ja, det skulle jag säga att det gör. Jag tycker att prylar gärna får vara
prylar, så håller vi de mänskliga relationerna till andra människor.
Även Google avfärdar Lemoines påstående, och stänger av honom från jobbet med omedelbar verkan. Enligt talespersonen Brad Gabriel saknar Lemoine bevis för att Lamda ska ha nått ett medvetande. Lemoine ska dessutom ha betett sig ”aggressivt” när han försökte anställa en advokat å Lamdas vägnar, samt ha brutit mot ett säkerhetsavtal med företaget.
I samband med att Lemoine publicerade transkriberingen av konversationen med Lamda skrev han på Twitter att ”Google kanske kallar detta ett delande av företagsegendom. Jag kallar det för ett delande av en konversation jag hade med en av mina kollegor”.