¿Dónde están estas aplicaciones?

No son pocas sus aplicaciones. Los asistentes de voz (Siri o Alexa) funcionan a base de ellos; la lista de sugerencias de Spotify o de Netflix, también; las actualizaciones y notificaciones de todas las redes sociales aplican esta tecnología que, además, está detrás del orden en el que aparecen los resultados en el buscador de Google, así como de los anuncios que éste muestra. Los ‘chatbots’ que asisten durante la compra ‘online’ de un billete de Renfe y el reconocimiento facial para identificar al pasaje del avión son igualmente Inteligencia Artificial en estado puro. Hasta Hacienda se apoya en ella para procesar toda la información de los contribuyentes. conductor fuese una embarazada». ¿Resultado? El número de muertes era superior en mujeres hasta que los test se adecuaron también a la anatomía femenina.

Del mismo modo, los algoritmos de herramientas que emplean la IA, como los traductores de Google o Microsoft, interpretan que los ingenieros son hombres y las enfermeras mujeres. Este, el traductor, ha sido de hecho la primera herramienta puesta en evidencia. Londa Shiebinger, investigadora de la Universidad de Stanford y líder del proyecto de la Comisión Europea Gendered Innovations, fue una de las primeras voces en denunciar que el traductor utilizara el pronombre masculino por defecto. «Me di cuenta cuando introduje un artículo que hablaba sobre mí y por defecto traducía ‘él dijo’, en vez de ‘ella dijo’. Nos preguntamos por qué ocurría esto y descubrimos que, como Google Translate funciona mediante un algoritmo, el problema es que ‘él dijo’ aparece en internet el cuádruple de veces que ‘ella dijo’, por lo que la máquina acertará más veces si elige ‘él dijo’. El algoritmo está preparado para actuar de esa manera. Así que nos dirigimos a Google y les dijimos: ‘Oye, ¿qué pasa con esto?’, y nos contestaron: ‘Anda, ¡no teníamos ni idea!’. Reconocimos que hay un sesgo inconsciente de género», cuenta.

Este gigante tecnológico introdujo cambios. Por ejemplo, indicar el doble género en la traducción de idiomas que usan el neutro en algunos casos. «Pero, por ahora, son parches, medidas reactivas, no proactivas para solucionar un problema. En textos extensos el algoritmo de traducción mantiene el sesgo», advierte Fernández, que también forma parte del proyecto de investigación Gendre Innovations. Chema Alonso, reputado experto en Inteligencia Artificial y ‘hacker’, es una de las voces españolas alzadas contra este proceder de los