ONU alerta sobre peligros de la IA y pide moratoria en venta y uso
INEBRA.- Algunos sistemas que utilizan la inteligencia artificial (IA) podrían ser discriminatorios o amenazar algunas libertades, advirtió la alta comisionada de la ONU para los derechos humanos, Michelle Bachelet, quien pidió una moratoria en la venta y uso de los que amenazan más gravemente las libertades.
En una intervención ante el Consejo de Derechos Humanos de la ONU, donde hoy también se presenta un informe sobre el impacto de estas nuevas tecnologías en las libertades fundamentales, Bachelet pidió frenar la utilización de algunas de ellas «hasta que se hayan puesto en vigor las salvaguardas adecuadas».
«No podemos seguir reaccionando tardíamente a los efectos de la IA, ni permitir que se use de manera ilimitada, sin fronteras ni supervisión, para enfrentarnos luego a sus casi inevitables consecuencias sobre los derechos humanos», afirmó la alta comisionada.
El informe ha estudiado el uso de la IA en sistemas de elaboración automática de perfiles, toma de decisiones y otras tecnologías de aprendizaje para las máquinas, que, según concluye, pueden vulnerar el derecho a la intimidad y otros relativos a la salud, la educación, la libertad de movimiento o la de expresión.
Según el documento, ya ha habido casos en que algunas personas han sido «injustamente tratadas» por el uso de IA, por ejemplo negándoles prestaciones del seguro social o siendo detenidas como consecuencia de errores en los sistemas de reconocimiento facial (muy desarrollados y ya ampliamente usados en China).
«Los datos que alimentan y orientan a los sistemas de IA pueden ser deficientes, discriminatorios, obsoletos o poco pertinentes», concluye el documento, que señala que estas bases sesgadas «pueden conducir a la adopción de decisiones discriminatorias, un riesgo aún mayor en grupos que ya se encuentran marginados».
El informe presentado ante el Consejo de Derechos Humanos reclama además a las empresas y Estados que desarrollan esta tecnología que aumenten la transparencia en esta investigación.