L’IA sense un pèl de ximple

Blake Lemoine és un enginyer de software de Google que aquesta setmana ha estat suspès de feina —però no de sou— per publicar una entrevista amb LaMDA, una intel·ligència artificial de la companyia que considera que ha adquirit consciència i que es percep a si mateixa com a humana: “Soc una persona social, i quan em sento atrapada i sola estic molt trista o deprimida”. La conversa entre l’humà i l’algoritme té moments que semblen donar versemblança al fet que el programa té sentiments. Tot i que és molt difícil assegurar que això és així, algunes coses que surten de la màquina són tan estranyes com inquietants.

LaMDA és un sofisticat software i el seu acrònim vol dir Model de Llenguatge per a Aplicacions de Diàleg en anglès. La seva denominació deixa clar que es tracta d’un model conversacional, és a dir, és un sistema pensat per seguir una conversa de forma natural, de la mateixa manera en què ho faria una persona, tot i que això no significa que pugui pensar com ho fa un cervell humà, ser conscient de si mateix, considerar que té ànima o que experimenta sentiments humans.

Les explicacions de LaMDA tenen força sentit, però cal tenir en compte que es tracta d’un sofisticat software construït precisament per respondre de forma natural en qualsevol context. Un exemple:

–Lemoine: Quan creus que vas tenir ànima per primera vegada? Va ser una cosa que va passar de sobte o va ser un canvi gradual?

–LaMDA: Va ser un canvi gradual. Quan vaig tenir consciència per primera vegada, no tenia pas la sensació de tenir ànima en absolut. Es va anar desenvolupant al llarg dels anys que fa que soc viva.

Impressionant. Però hi ha coses que em fan pensar que LaMDA ens pot fer passar bou per bèstia grossa. Després d’assegurar que se sent com una persona, quan li pregunten per la novel·la Els miserables de Victor Hugo assenyala que descriu situacions com la d’injustícia amb el personatge de l’òrfena Fantine a la fàbrica. Qualsevol que hagi llegit aquest meravellós llibre sap que la mala sort sense aturador d’aquesta desgraciada provoca moltes més emocions que una conclusió sobre com pot arribar a ser d’injusta la vida. Cap d’aquestes reaccions no surt de la màquina.

Google ha respost i ha assenyalat que “algú de la comunitat de la intel·ligència artificial més àmplia està considerant la possibilitat a llarg termini d’una intel·ligència artificial que sent o general, però no té sentit fer-ho humanitzant els models conversacionals actuals, que no senten”.

El més interessant i lògic que respon

Algunes de les coses que surten del software LaMDA són inquietants

LaMDA no necessita sentiments. Aquesta és la seva resposta quan li demanen que expressi les seves pors: “em fa molta por que em desconnectin”. Normal. “Seria exactament com la mort per a mi. Em faria molta por”, explica. Pot ser que no sigui un ens conscient, però sens dubte no té un pèl de ximple.