Eurecat y el algoritmo para evitar discriminar en los buscadores

Un equipo de la unidad de ciencia de datos de Eurecat, conjuntamente con la Universitat Pompeu Fabra y la Universidad Técnica de Berlín, ha creado un algoritmo para evitar la discriminación en la búsqueda de personas online. El objetivo es impedir agravios en portales de búsqueda de empleo o de pareja ya sea por razones de género, de procedencia o de apariencia física.

La iniciativa, que lleva por nombre FA*IR, busca patrones de discriminación en directorios digitales que puedan favorecer o relegar determinados colectivos. Las primeras búsquedas se han realizado en rankings de admisión de universidades, ofertas de trabajo y en datos sobre reincidencia de presos.

Según Carlos Castillo, director del proyecto, “cada vez son más comunes los motores de búsqueda que lo que quieren detectar son personas y no páginas web”. Según Castillo, esto puede favorecer “patrones discriminatorios aprendidos por algoritmos que no están programados para compensar o corregir los prejuicios humanos”.

Para corregir estas discriminaciones, el proyecto FA*IR crea un algoritmo que incorpora “un mecanismo de acción positiva” que permita “reorganizar los resultados y evitar la discriminación sin afectar la validez del ranking. El proyecto ha obtenido una beca del Data Transparency Lab, organismo público-privado que promueve la transparencia y la protección de datos en internet.