Ni artificial ni inteligente
Kate Crawford muestra que la actual inteligencia artificial es una gran industria extractiva y sesgada
Finales del siglo XIX. Europa vive fascinada por un caballo al que apodan Hans el inteligente. Resuelve problemas matemáticos, dice la hora, deletrea palabras... Con los cascos golpea el suelo hasta que da la respuesta a cuánto son dos más tres o qué día de la semana es. La gente acude en masa a verlo. Incluso hace restas. The New York Times asegura que “¡Solo le falta hablar!”. Su entrenador es un profesor de matemáticas retirado, fascinado por la inteligencia animal, y que lo ha intentado antes con gatos o crías de oso. Una comisión investiga el fenómeno y no halla ninguna trampa. Descubre que los métodos de enseñanza se asemejan a los de la educación básica. Sin embargo, algo no cuadra. Cuando el interrogador, fuera quien fuera, desconocía la respuesta correcta, Hans fallaba. Finalmente, lo entienden: la postura del interrogador, su respiración y expresión, cambian cuando los golpeteos alcanzan la respuesta correcta.
Kate Crawford, una de las investigadoras principales del Microsoft Research Lab en Nueva York y una de las grandes expertas en inteligencia artificial, arranca con esta historia su Atlas de la IA para recordar nuestra tendencia a antropomorfizar lo no humano y cuán estrechamente consideramos la inteligencia. De hecho, la historia de Hans, subraya, se usa hoy en aprendizaje automático como advertencia de que no siempre se puede estar seguro de lo que ha aprendido un modelo a partir de los datos. La
cuestión central de su libro, que llega en plena fiebre por ChatGPT, es cómo se hace la inteligencia. Y frente al mito de que los sistemas no humanos, computadoras o caballos, son análogos a la mente humana, y de que la inteligencia existe de forma independiente como algo separado de las fuerzas culturales, históricas y políticas, dice que la inteligencia artificial no es ni inteligencia ni artificial ni incorpórea.
En un recorrido que va del litio de Nevada al lago negro de 180 millones de toneladas en la Mongolia china surgido de procesar tierras raras, a los almacenes de Amazon donde los empleados son obligados a comportarse como robots –las articulaciones de nuestros dedos, rodillas y nuestros ojos son imprescindibles– y a los trabajadores digitales a destajo a los que se paga una miseria para que hagan clic en microtareas para que los sistemas de datos parezcan más inteligentes de lo que realmente son, Crawford muestra la inteligencia artificial como una industria de extracción que depende de la explotación de los recursos energéticos y minerales del planeta, de la mano de obra barata y los datos a gran escala. Existe de forma corpórea y los sistemas de IA no son autónomos, racionales ni capaces de discernir algo sin un entrenamiento extenso y computacionalmente intensivo, con enormes conjuntos de datos usados impúdica y sesgadamente o reglas predefinidas. La IA depende de un conjunto de estructuras políticas y sociales. Y el capital para construirla a gran escala es un certificado de poder. De hecho, concluye, es una manera de ejercer el poder y una manera de ver que crea mapas del mundo nada neutrales.
La IA depende de explotar recursos energéticos, datos y mano de obra barata