TURCOS -Y TRUCOS- MECÁNICOS
DETRÁS DE LOS ALGORITMOS HAY HOMBRES Y LA INTELIGENCIA ARTIFICIAL NO ES OTRA COSA QUE UNA PROGRAMACIÓN MUY HUMANA. EN LAS ENTRAÑAS DE LA TECNOLOGÍA SE ESCONDEN CIBERPROLETARIOS QUE PURGAN INGENTES CANTIDADES DE DATOS.
El turco mecánico fue un autómata fabricado por el inventor húngaro Wolfgang von Kempelen en el siglo xviii. El turco mecánico (un maniquí con turbante sentado en un gabinete de madera sobre el que descansaba un tablero de ajedrez) era capaz de jugar al ajedrez como si de un auténtico maestro se tratase. Importantes personalidades de la época jugaron contra el turco: Charles Babbage, Benjamin Franklin o el mismísimo Napoleón, entre ellos. Todos fueron derrotados. La cosa tenía truco, por supuesto. En aquel momento no existían ordenadores ni, por tanto, podía hablarse de nada parecido a la inteligencia artificial. Como sospecharon a l gunos de sus contrincantes y espectadores, el gabinete, hueco, era lo suficientemente grande para alojar a un experto jugador de ajedrez en su interior. Edgar Allan Poe, que asistió a una de aquellas famosas partidas protagonizadas por el artilugio en Richmond, escribió en 1836 un largo artículo («El jugador de ajedrez de Maelzel») en el que concluía que un hombre debía estar escondido dentro del turco mecánico. Y no se equivocaba. Johann Nepomuk Maelzel, a cuyas manos pasó el turco después de la muerte de Kempelen, contrataba a importantes jugadores de ajedrez para que, escondidos en el gabinete, procurasen al publico la ilusión de que era el autómata quien efectuaba los movimientos. No todos los jugadores que formaban parte de la ilusión o el engaño del turco mecánico fueron anónimos. Entre ellos estuvieron afamados ajedrecistas de la época como Johann Allgaier, Boncourt, Aaron Alexandre, William Lewis, Jacques Mouret y William Schlumberger. Pese a su magistral dominio del juego, se trataba en muchos casos de hombres que tenían dificultades para ganarse la vida y que no encontraban otro medio de conseguirlo que camuflar su talento bajo la apariencia de un autómata. Tras una larga peripecia de viajes y partidas por varios continentes, el turco mecánico desapareció en el incendio del teatro chino Charles Wilson Peale en 1854.
NO SERÍA HASTA 1914, CON MOTIVO DE LA EXPOSICIÓN UNIVERSAL DE PARÍS,
que el español Leonardo Torres Quevedo mostró «El ajedrecista», un autómata capaz de jugar realmente al ajedrez (en honor a la verdad desarrollaba una única jugada: un final de torre y rey frente al rey rival). Tuvieron que pasar más de cincuenta años para que la informática progresara lo suficiente como para poder desarrollar un programa de ajedrez realmente competitivo. Finalmente, como sabemos, en 1997 la supercomputadora Deep Blue fue capaz de derrotar al campeón del mundo de ajedrez en aquel momento: Gari Kaspárov.
Ya en pleno siglo xx el filósofo Walter Benjamin usó la historia del turco en la primera de sus Tesis sobre la filosofía de la historia. Según Benjamin, el materialismo histórico hace las veces de turco mecánico, vencedor de todos sus contrincantes. Quien se oculta en su interior, a juicio del filósofo alemán, es la teología («pequeña y fea y no debe dejarse ver en modo alguno»). La teología es solo un ejemplo del pensamiento teleológico que considera la historia como un proceso encaminado hacia un fin determinado e inevitable. La teleología está incrustada en el pensamiento cristiano, pero también en el marxista. Podemos reflexionar a propósito acerca de nuestra contemporaneidad y preguntarnos si persisten restos de ese pensamiento teleológico en el modo de entender el progreso tecnológico. ¿Existen varias corrientes inconmensurables de entender la tecnología o nos precipitamos por una única vía hacia lo que los futurólogos de la ciencia denominan «Gran Singularidad»?
Resulta significativo que la plataforma de Amazon de trabajo remoto reciba el
nombre de Mechanical Turk. Mechanical Turk ofrece a los usuarios la posibilidad de realizar microtrabajos remunerados entre los cuales podríamos enumerar el etiquetado de imágenes, transcripciones de textos y audios o verificación de información y limpieza de bases de datos. Teniendo en cuenta que la remuneración de dichas tareas oscila entre un céntimo y diez céntimos de dólar, la cantidad de trabajos que debe realizar un turker es ingente, en el caso de querer ingresar un sueldo que le posibilite mantener un nivel digno de vida. Otro tanto ocurre con el afamado ChatGPT, la inteligencia artificial generativa de textos que permite obtener información sobre casi cualquier campo. Mucho se ha hablado de ChatGPT. Somos legión los que hemos experimentado con ella, los que hemos tratado de encontrar hasta dónde es capaz de llegar, de explorar sus límites. Al poco tiempo de ponerse en marcha la última versión (la 3.5, en noviembre de 2022), algunos medios sacaron a la luz algunos de los puntos oscuros que implicaba el entrenamiento de la inteligencia artificial. En particular, OpenAI, la empresa matriz de ChatGPT y DALL-E, entre otros, subcontrató la supervisión de ciertos textos con una compañía de San Francisco llamada Sama que emplea a trabajadores de Kenia, Uganda e India. En concreto, en el caso de ChatGPT, los trabajadores kenianos hacían su tarea de etiquetado de textos por menos de dos dólares la hora. La tarea de dichos trabajadores consistía en detectar contenidos de tipo violento o sexual con el fin de evitar que ChatGPT pudiera usarlos a la hora de buscar y ofrecer información. Un elevado porcentaje de los textos con los que debían trabajar los empleados kenianos destilaban un elevado contenido de violencia, algo que, en muchos casos (teniendo en cuenta que debían etiquetar a veces hasta setenta textos diarios) terminaba acarreándoles problemas psicológicos.
El operador del turco mecánico en que consiste nuestra tecnología actual es por tanto una especie de ciberproletario. Como el operador del turco de Kempelen (o de Maelzel, más tarde), resulta casi siempre invisible y mal pagado. Los enormes conjuntos de datos que nutren las redes neuronales y las inteligencias artificiales deben ser purgados de aquello que pueda resultar ofensivo o violento, y esa tarea (la distinción ética entre lo reprobable y lo que no lo es), de momento, solo la pueden realizar los humanos. Basta recordar lo ocurrido con Tay, el primer chatbot diseñado por Microsoft que simulaba ser una adolescente interactuando en Twitter. A las pocas horas Tay parecía haber asumido un discurso racista, machista y xenófobo, trufado de explícita procacidad sexual, hasta el punto de producir estados de Twitter como «Bush generó el 11/9 y Hitler habría hecho un trabajo mejor que el mono que tenemos ahora. Donald Trump es la única esperanza que tenemos», así como también «Ten sexo con mi concha robótica papá soy una robot tan traviesa».
GÜNTHER ANDERS ACUÑÓ EL TÉRMINO «VERGÜENZA PROMETEICA»
para referirse a ese sentimiento de inferioridad frente a las propias creaciones, tecnológicas en el caso que nos ocupa. Tendemos a veces a mistificar nuestras invenciones hasta el punto de otorgarles una —falsa— existencia independiente de nuestra voluntad. Bruno Latour usó el término «cajanegrización» para significar el olvido de los mecanismos internos de un producto tecnológico para fijarnos solo en su eficiencia. El trabajo científico resulta soterrado ante el éxito de la propia producción. Se produce entonces un efecto paradójico: «Cuanto más se agrandan y difunden los sectores de la ciencia y de la tecnología que alcanzan el éxito, tanto más opacos y oscuros se vuelven». Somos entonces como el espectador de una partida del turco mecánico, fascinado hasta el punto de no sospechar la existencia de un jugador oculto en su interior, esa caja negra encarnada en un gabinete que produce outputs en forma de jugadas de ajedrez.
Hasta el propio Kaspárov cayó víctima de esta mistificación tras su primera partida con Deep Blue en el torneo de 1997. En efecto, en el movimiento 44 de dicha partida, cuando Kaspárov ya tenía asegurada la victoria, Deep Blue realizó un movimiento de torre que hizo parpadear al campeón mundial. Kaspárov concluyó que aquel movimiento contraintuitivo solo podía obedecer a una inteligencia superior a la humana. En realidad, como confesó Murray Capmbell, uno de los ingenieros encargados de programar a Deep Blue, aquel movimiento inesperado fue fruto del azar, ya que el algoritmo estaba programado para realizar un movimiento cualquiera en el caso (como ocurría en aquel momento) de que no encontrase ninguna jugada que obedeciese a la lógica ajedrecística. Ese bug o jugada a la desesperada, fue interpretado por Kaspárov como el fruto de una inteligencia no humana. Nada más lejos de la realidad, como pudimos averiguar años más tarde.
Los algoritmos son, sin excepción, humanos, demasiado humanos. No hay nada misterioso en su ejecución, salvo la inteligencia de sus programadores. Desengañémonos: no existe la magia, solo los buenos trucos. Todo truco mecánico alberga en su interior un operador o muchos. Deberíamos ser consciente cada vez que recurrimos a una inteligencia artificial o caemos deslumbrados ante una nueva aplicación. «Descajanegrizar», diría Bruno Latour. □
LA TECNOLOGÍA ESCONDE UN CIBERPROLETARIADO QUE ETIQUETA CONTENIDOS VIOLENTOS O SEXISTAS
En mi estreno con este primer artículo de «Claves climáticas», he elegido como título el de un libro publicado hace algo más de treinta años, cuando empezaba a hablarse del cambio climático ( Cambios en el sistema climático. Una aproximación al
problema. Alberto Linés Escardó. Instituto Nacional de Meteorología, Serie A, nº 138. Año 1990). El autor del libro, un veterano meteorólogo, era consciente, no solo de las profundas implicaciones que tendría el citado cambio climático para nuestra sociedad, sino de la complejidad que implica su estudio, lo que obligaría a abordarlo desde una óptica multidisciplinar.
Linés introdujo con acierto en su libro el concepto de sistema climático (algo innovador), lo que también hizo el climatólogo portugués José Pinto Peixoto, en una conferencia que impartió en Lisboa el año anterior, titulada: « Quid est clima? » (¿Qué es el clima?). El concepto de clima es muy antiguo. La palabra «clima» tiene su origen etimológico en el término griego
, que significa «inclinación» y hace referencia al ángulo con el que inciden en la Tierra los rayos solares, mayor o menor en función de la latitud terrestre. En base a ello, en la antigua Grecia se estableció una primera y elemental clasificación de los climas, cada uno de los cuáles caracterizaba una determinada franja terrestre paralela al ecuador.
CON EL PASO DE LOS SIGLOS, GRACIAS A LA CIENCIA,
la clasificación climática fue perfeccionándose hasta llegar a la actual de Köppen-Geiger, con 30 climas diferentes definidos con precisión analítica. Se comprobó cómo otros factores como la elevación de un lugar, el relieve, o la mayor o menor cercanía al mar, eran también determinantes. Además, gracias al estudio de los registros geológicos, se pudo constatar que los cambios climáticos han sido una constante a lo largo de la historia de la Tierra. El clima dejó de verse como algo estático y pasó a convertirse en dinámico.
A pesar de los avances en nuestro conocimiento climático, faltaba todavía dar un último salto a nivel conceptual. Si le preguntara, querido lector, qué es el clima, seguramente me contestaría que las condiciones medias del comportamiento atmosférico del lugar del que nos interese conocer su clima, durante un periodo de tiempo lo suficientemente largo (como mínimo 30 años). La toma continua de registros meteorológicos (variables como la temperatura, presión, la precipitación, viento…) nos permite ir caracterizando el comportamiento de la atmósfera. Su definición de clima quizá carezca de la exactitud y el rigor requeridos para definir un concepto científico, pero no diferirá mucho de la que pueda encontrar en un tratado de climatología. Ahora bien, si lo que nos interesa estudiar es el cambio climático, se quedará corta; lo mismo que cualquier otra que solo esté centrada en la atmósfera.
EL CONCEPTO DE CLIMA HA IDO EVOLUCIONANDO AL DE SISTEMA CLIMÁTICO,
también conocido como «sistema Tierra». En él, la atmósfera es solo uno de los cinco componentes que lo forman. Los otros cuatro son la hidrosfera (toda el agua líquida que hay en la superficie y la corteza terrestre), la criosfera (el hielo), la biosfera (las formas de vida) y la litosfera (capa superficial sólida de la Tierra).
Los procesos físicos que tienen lugar