Gemma Galdón «Las redes aún no determinan el voto»

Fundadora de una consultora sobre AI asegura: «Me dedico a construir los cinturones de seguridad de la inteligencia artificial»

LOLITA BELENGUER

Esta catalana nacida en Mataró en 1976 fundó la empresa Eticas Tech en 2012, una consultoría y auditoría de sistemas de inteligencia artificial a caballo entre España y EEUU. Entre sus trabajos se encuentra la coordinación de una guía sobre el uso de algoritmos en el ámbito laboral elaborada para el Ministerio de Trabajo. La empresaria atiende desde Nueva York por videoconferencia a 20minutos para hablar de las conclusiones a las que va llegando a través de su minucioso escrutinio de los sistemas que deciden por nosotros.

¿Por qué es necesario auditar los algoritmos?

Porque los sistemas de decisión automática toman decisiones sobre nuestras vidas y tenemos que asegurarnos de que estas sean justas y pertinentes. Es muy importante tener mecanismos de precaución ante los posibles impactos negativos de la tecnología.

¿Qué discriminaciones han revelado las investigaciones de algoritmos?

El caso más importante ha sido el del gobierno holandés, donde se vio que el sistema discriminaba de forma sistemática a los perceptores de subsidios extranjeros y de rentas bajas. Sabemos que esos sistemas funcionan mal y lo mínimo que tendría que hacer la administración es asegurarse de que incorpora buena tecnología, pero ahora mismo no tenemos ninguna certitud.

Esos algoritmos los han diseñado personas humanas...

Sí, pero no solo. Nosotros hemos identificado 22 momentos de sesgo en la vida de un algoritmo. Los momentos en los que las cosas pueden ir mal son múltiples.

¿Cómo y a quién discriminan los algoritmos?

Discriminan a todos los grupos no mayoritarios. El funcionamiento básico de un algoritmo es como el del GPS, para ir de A a B te propone rutas tras coger datos del pasado y buscar el patrón más utilizado, porque entiende que lo óptimo es lo que hace la mayoría de la gente.

¿Qué vieron en la reciente auditoría a Uber, Cabify y Volt?

Cosas muy preocupantes. En primer lugar, que había una posibilidad de vulneración algorítmica de la competencia porque –no tanto en Uber– los precios suben y bajan en el mismo momento. También vimos falta de transparencia en el pago de propinas. Cuando das una propina en esos servicios, los 20M.ES/NACIONAL

Sigue todas las noticias de esta sección, actualizadas al minuto, en nuestra página web