La Inteligencia Artificial no puede amparar los sesgos de género

La desigualdad de género es todavía una realidad en el ámbito de la tecnología. El porcentaje de hombres y mujeres que, con su trabajo como conferenciantes, contribuyó a la divulgación del Machine Learning en 2017 se situó en el 88% para los varones frente al 12% de féminas, según un informe elaborado por Element AI.

Una situación anómala que se reproduce en otros sectores y que nos debe concienciar a habilitar las medidas oportunas para revertirla, haciendo de la igualdad de género una realidad universal.

En el ámbito concreto de la IA (Inteligencia Artificial) se evidencia que el camino para conseguir el equilibrio entre sexos es aún largo. Esta afirmación está respaldada por los analistas de la revista tecnológica wired.com, que aseveran que el campo de la Inteligencia Artificial “es aún menos inclusivo que la media del sector tecnológico, que también presenta problemas evidentes de diversidad”.

No solo por incoherente y arbitraria, sino también por su potencial para reproducir y amplificar sesgos en el desarrollo de algoritmos, esta insostenible situación debe concluir cuanto antes. La guía de la UE para una IA Confiable recomienda prestar especial atención a la diversidad y representatividad de poblaciones específicas entre las que cita a las mujeres como categoría.

En pleno siglo XXI, no podemos permitir que la Inteligencia Artificial aprenda de una visión sesgada de la realidad, al descartar la realidad que vive el 50% de la humanidad. De hecho, uno de los objetivos clave en la agenda de quienes nos vinculamos profesionalmente a generar impacto de la IA en las organizaciones y la sociedad, debiera ser cómo aprovechar la oportunidad tecnológica para revertir un status quo discriminatorio. Si lo que perseguimos es impulsar una IA capaz de procesar la realidad desde una perspectiva de género, parece lógico pensar en contribuir proactivamente a la representatividad de género en la Inteligencia Artificial.

Esto implica garantizar la presencia femenina, y por tanto, la aproximación de género, en todo el ciclo de vida de la IA -desde la conceptualización de solucio

nes hasta su implementación- y en el propio fomento del liderazgo femenino en las organizaciones y el mercado.

También nos conmina a ser conscientes del reto que afrontamos en los próximos años frente a la profunda transformación de los modelos de trabajo que implicará la automatización: como indica el Institute for Public Policy Research (IPPR), estadísticamente las mujeres ocupan roles de menor especialización en ámbitos como los administrativos o comerciales, con mayor susceptibilidad de desagregarse en tareas que podrán llevarse a cabo a través de la IA. Por tanto, resulta clave anticipar la evolución de capacidades y competencias dentro de este nuevo marco de colaboración humano-máquina en un mercado laboral que ya se está conformando.

Como manifestó Stephen Hawking en una sesión online de Reddit, “una IA súper inteligente será extremadamente eficaz logrando sus objetivos. Si esos objetivos no están alineados con los nuestros, vamos a tener grandes problemas”. Por ello, no contar con más mujeres en el desarrollo de IA supone una clara amenaza para la consecución de la necesaria igualdad de género.

Siri, Alexa, Cortana, Holly, Samantha (Her), Joi (Blade Runner 2049) o Karen (Spider-Man: Homecoming) tienen voces femeninas, y personifican en cierto modo un modelo perverso de subordinación femenina. Esta circunstancia se perpetúa porque sus voces son vistas por las empresas como más comerciales que las de los hombres, lo que provoca la inacción de la industria y refuerza indeseables estereotipos de género en el ámbito de la tecnología y, en concreto, de la IA.

La masa social y la opinión pública tampoco ayuda. Aunque las personas sean conscientes de la existencia de sexismo en las voces femeninas de los bots, muy pocos se plantean seriamente las implicaciones que supone para la vida real, existiendo situaciones de abusos verbales contra estos asistentes sin que sus desarrolladores lo impidan, blanqueando así estos censurables comportamientos.

La industria tecnológica está a tiempo de poner coto y erradicar cualquier estereotipo de género a la hora de desarrollar sistemas basados en Inteligencia Artificial, valorando cómo afrontar situaciones complejas como, por ejemplo, las respuestas de los bots ante posibles episodios de acoso o discriminación por sexo. Joy Buolamwini, investigadora del M.I.T. Media Lab, ha verificado que algunos de los prejuicios existentes en el mundo real pueden trasladarse a la Inteligencia Artificial. Tanto es así que aunque la tecnología de reconocimiento facial está progresando deprisa, diferenciando, por ejemplo, géneros, aún no está preparada al 100% para distinguir colores de piel.

En este sentido, si un determinado software identifica el 99% de las veces correctamente una fotografía de una persona blanca, cuando el color de piel se va oscureciendo la probabilidad de error crece hasta el 35%, según un estudio que analiza cómo funciona la tecnología en personas de distintas etnias y géneros.

La industria tecnológica está a tiempo de erradicar cualquier estereotipo de género en sistemas basados en IA

En este desigual escenario, se encuentra esperanza en ver que ciertas iniciativas como Women in Machine Learning, Women in AI, Mujeres Tech o AllWomenTech están cobrando peso globalmente y que están empoderando a las mujeres en el ámbito de la ciencia y de la IA. Promover la diversidad de género es fomentar la diversidad de la Inteligencia Artificial. Dejar al margen a las mujeres no sería inteligente. Por ello, mi reconocimiento a mujeres con gran talento, como la doctora Fei-Fei Li, Cassie Kozyrkov, Nuria Oliver o Nerea Luis, entre otras que, aunque aún en minoría en un mundo dominado todavía por hombres, están abriendo una brecha necesaria a la que no podemos renunciar no solo por ser justos sino porque es totalmente imprescindible para el desarrollo futuro de la IA.