En los chatbots de IA
El viejo truco de las grandes potencias de explotar a los países pobres
El hallazgo inesperado de una palabra inusual repetida en miles de investigaciones médicas recientes le permitió a un profesor iluminar el lado oscuro de los populares chatbots de Inteligencia Artificial, que utilizan mano de obra barata de África para hacer el “trabajo sucio” y reducir costos.
El mes pasado, Jeremy Nguyen, de la Universidad Tecnológica de Swinburne, se sorprendió al comprobar que en el portal Pubmed, una base de datos de libre acceso con publicaciones médicas de prestigio, aparecía mucho la palabra “delve” (profundizar, en inglés), a pesar de que su uso es poco frecuente en EE.UU, Inglaterra o Australia. Sólo en el último año se había utilizado casi cien veces más que en una década completa de publicaciones.
Intrigado por el origen de esta tendencia, descubrió que CHATGPT era el responsable: “delve” era una de las palabras a las que el sistema de Openia más recurría en sus contestaciones, junto con otros términos muy repetidos como “explore”, “tapestry”, “testament” o “leverage”.
Como dijo el periodista inglés Alex Hern, esto no era azaroso sino la consecuencia de la forma en la que la plataforma había sido construida.
Y es que detrás de CHATGPT hay un verdadero ejército de humanos que se involucran en la arquitectura del chatbot, conocida como aprendizaje reforzado con retroalimentación humana. Se trata de un proceso en el cual personas de carne y hueso interactúan con el programa y lo prueban, haciendo preguntas, dando instrucciones y brindando comentarios para que sus textos parezcan más humanos. A veces, esa retroalimentación es tan simple como un pulgar hacia arriba o hacia abajo, pero en ocasiones se requiere más trabajo e incluye dar respuestas que serán tomadas como modelo para futuras interacciones.
Este trabajo se realiza en distintos países de África, en donde el valor de la hora de trabajo está muy por debajo que en las grandes potencias, cerca de dos dólares.
En su investigación, Nguyen halló que en Nigeria la palabra “delve” se usa mucho más que en otras partes del globo. Entonces, los trabajadores que entrenaron los sistemas de CHATGPT le fueron enseñando el inglés que hablan los nigerianos.
Así, el chatbot de moda del que todos hablan está siendo moldeado por la mano de obra barata y subcontratada en África y, sin saberlo, deja su marca también en el ámbito de la investigación médica, ya que queda claro que muchos de quienes publican en Pubmed utilizan la plataforma a la hora de escribir.
El empleo de humanos “en las sombras” no es sólo de CHATGPT: hay trabajo humano invisible en casi to
El chatbot de moda del que todos hablan está siendo moldeado por la mano de obra barata y subcontratada en África.
El empleo de humanos “en las sombras” no es sólo de CHATGPT: hay trabajo humano invisible en casi todo el software que utilizamos.
do el software que utilizamos, como las redes sociales que necesitan personas que filtren parte de los contenidos y revisen denuncias.
La australiana Kate Crawford indica que existen formas de explotación en todas las etapas de la tubería de la digitalidad, desde la extracción de minerales para crear el hardware hasta quienes reciben centavos por hacer microtareas del software.
Este trabajo invisible repite los viejos vicios de las industrias tradicionales: los grandes centros de poder del Norte Global explotan a los países pobres y consiguen grandes ganancias con mínima inversión. ■