Kate Crawford: “Una imatge porno ha estat la més utilitzada en ciència computacional”
El Sónar*D aborda els biaixos amb què es construeix la intel·ligència artificial
La intel·ligència artificial provoca una eterna inquietud. Es rebel·larà contra els seus creadors, com l’ordinador HAL de 2001: una odissea en l’espai o els sistemes intel·ligents de Terminator? La pregunta queda una mica relativitzada en saber que una imatge pornogràfica de Playboy, convenientment retallada, ha estat la més utilitzada en la història de la ciència computacional. “En cada nova tecnologia veiem els vells déus. El codi Morse es va fer servir quan va aparèixer per enviar missatges als morts i les primeres tècniques fotogràfiques per capturar fantasmes”, assenyala l’acadèmica Kate Crawford recordant com la setmana passada un enginyer de Google va afirmar que la seva intel·ligència artificial LaMDA és sentent. “LaMDA és una gran conversadora, ensenyada amb milions de diàlegs d’internet. Per què l’enginyer cau i pensa que és intel·ligent sabent com està feta? Les noves tecnologies sempre han estat associades amb el sobrenatural, la seva combinació de màgia i realisme els donen una qualitat gairebé teològica”, explica davant el públic del Sónar+D, el certamen d’art i tecnologia que acompanya el musical.
El que a ella i l’artista Trevor Paglen, que l’acompanya a l’escenari, els preocupa és amb quins ulls humans, amb quins biaixos de classe, gènere i raça es creen les intel·ligències artificials, amb quines bases de dades tretes d’un internet en què abunda l’odi –Facebook, expliquen, valora amb cinc punts el malestar i amb només un el somriure– i la polarització.
“Els sistemes de machine learning (d’aprenentatge de la intel·ligència artificial) no són només un objecte tècnic, sinó un profund sistema polític. No reflecteixen tant el món, com l’esculpeixen”, asseguren. Per entendre’l, Paglen, fotògraf que ha mapat els mecanismes de la societat de la vigilància actual, i Crawford, autora de l’Atles de la intel·ligència artificial, repassen històries que mostren els biaixos de la disciplina. Fins al punt que, resumeix, “l’humà estàndard de la intel·ligència artificial inicial van ser una pin up ,un funcionari i un pres”.
Els primers projectes militars de reconeixement facial als EUA van buscar la cara estàndard mesurant els caps dels homes del laboratori seguint velles idees de la frenologia de finals del XIX. Ja als setanta, un enginyer, Alexander Sawchuck, busca una imatge per a una conferència. Apareix un col·lega amb la revista Playboy i escaneja el cap de la model central, Lena Söderberg, que es convertirà en “la imatge més emprada en la història de la ciència computacional, tant per testar algoritmes visuals com per a tècniques de compressió d’imatge. En una indústria hostil a les dones, una imatge pornogràfica va ser la ideal que van triar per treballar”, assenyala Crawford. Més tard es van fer servir els retrats de detinguts i acusats que tenia la policia. “La visió dels ordinadors comença amb Playboy, presos i personal de bases militars”, assenyalen, reproduint els biaixos del poder.
Per entrenar sistemes d’intel·ligència artificial en reconeixement del discurs es van fer servir mig milió de correus electrònics de l’empresa Enron fets públics després del seu monumental frau i carregats de llenguatge masclista, racista i delictiu. I és que ja abans, Robert Mercer, quan era a IBM, abans de Cambridge Analytics, de donar suport a Trump i el Brexit, va decidir, com es fa avui, que l’important perquè els sistemes d’intel·ligència artificial puguin aprendre són dades i més dades, i reduir-hi el significat. Avui s’alimenta aquests sistemes amb les dades infinites d’un internet ple d’odi i divisió, i s’omple de biaixos les intel·ligències artificials que decideixen llocs de treball o busquen terroristes. Una evolució que va fent que els humans es converteixin en el que els models diuen. Crawford conclou que no importa quina versió vegem de la intel·ligència artificial, sinó que sapiguem “a través de quins ulls està mirant”.c