Inteligencia artificial prejuiciosa, el peligro Pablo Leites
Es el lugar común de cualquier paper sobre ciencia y tecnología desde hace al menos cinco años: la inteligencia artificial y los robots van a quedarse con una parte importante de los trabajos que hoy desarrollamos los seres humanos.
De hecho, las últimas y más gradualistas predicciones (por usar un término de moda) fijan para países como Inglaterra un plazo de 15 años para que más de 10 millones de trabajadores sean sustituidos por robots.
El informe de la consultora Price Waterhouse Coopers revela que el 30 por ciento de los puestos de trabajo en el país que votó a favor del “Brexit” están potencialmente amenazados por los avances en inteligencia artificial (IA). De hecho, habla de que en algunos sectores de la economía la mitad de esos puestos están en riesgo para los seres humanos.
El panorama es tan grave que los países desarrollados ya piensan en alternativas para que semejante impacto no ponga en riesgo la subsistencia del sistema capitalista, habida cuenta de que en un mundo de desocupados, no hay quien consuma.
Puede que el auténtico problema sea el modo en que hasta ahora funciona la inteligencia artificial, que no es otro que “aprendiendo” de la información que circula en internet, tanto en medios tradicionales como en redes sociales. Antes que pensar en robots haciendo nuestros trabajos, parece más preocupante que esos robots actúen con el mismo nivel de prejuicio que encontramos hoy en la sociedad.
Hasta ahora, el Big Data funciona como un gigantesco espejo social, reproduciendo las desigualdades y los comportamientos discriminatorios que tenemos en una sociedad determinada. Tal vez alguien recuerde a Tay, el chatbot experimental dirigido a jóvenes de entre 18 y 24 años que Microsoft puso a andar en 2016 y que debió ser sacado de servicio a los pocos días porque empezó a escupir todo tipo de comentarios racistas, sexistas y homófobos.
Antes de ser desenchufado, incluso hizo comentarios a favor de la supremacía blanca o avaló a negadores del Holocausto. Bueno, la cosa no cambió demasiado en la forma en que la inteligencia artificial recolecta información, y los prejuicios sociales en lugar de disminuir aumentaron en este último par de años. Por lo tanto, también los de la IA.
Hace poco, una firma estadounidense construyó una plataforma con la intención de describir y etiquetar imágenes con precisión valiéndose del análisis de miles de millones de imágenes de las redes sociales. Se le mostró al sistema una foto de un hombre en la cocina. ¿El resultado? La etiquetó como “mujer en la cocina”. Y hay más.
Para el profesor Noel Sharkey, codirector de la Fundación para la Robótica Responsable en los Estados Unidos, el problema es algo más profundo que enseñarle a una IA a reconocer fotos de un modo más “diverso”. Según él, investigadores de la Universidad de Boston probaron el sesgo inherente a los algoritmos de inteligencia artificial entrenando a una máquina en el análisis de texto extraído de Google News.
Cuando le pidieron a la máquina terminar la frase
“el hombre es a los programadores informáticos como la mujer es a x”, la inteligencia artificial completó la incógnita con “las amas de casa”.
Tal como, con acierto, reflexiona el lúcido blog sobre tecnología TechTalks ,elprimerpasopara evitar el sesgo algorítmico es reconocer los límites de la inteligencia artificial. El segundo, entender lo siguiente: los algoritmos de deep learning no son racistas, pero como nosotros sí lo somos, ellos reproducirán cualquier prejuicio que tengamos, sea intencional o no.
Al fin y al cabo, el sesgo algorítmico es un problema humano, y no técnico.