El Parlamento Europeo inicia el proceso para regular la inteligencia artificial
▸ Propone prohibir todos los usos que ponen en peligro los derechos básicos
Las comisiones de Mercado Interior y de Libertades Civiles del Parlamento Europeo han aprobado esta semana el proyecto de mandato de negociación para elaborar la que será la primera norma para regular la inteligencia artificial (IA). Por 84 votos a favor, 7 en contra y 12 abstenciones, los eurodiputados han aprobado un documento en el que se recogen sus inquietudes respecto a la propuesta legislativa que había lanzado la Comisión Europea. Entre otras cosas, los parlamentarios quieren que se garantice que los sistemas de IA sean supervisados por personas, sean seguros, transparentes, rastreables, no discriminatorios y respetuosos con el medio ambiente. Además, piden que el resultado final incluya una definición legal que pueda aplicarse a los sistemas actuales y a los que puedan ponerse en marcha en el futuro.
Una vez que esta posición del Parlamento sea aprobada por el Pleno, previsiblemente en la sesión de junio, el Consejo Europeo (los representantes de los países miembros) deberá aprobar también su propia versión de la ley, para que las dos instituciones colegisladoras puedan empezar a negociar la redacción final. El trabajo de coordinar el Consejo recaerá con toda probabilidad en la presidencia española, que empieza el primero de julio.
Las reglas que propone el Parlamento son más estrictas que las que figuran en la propuesta de la Comisión y prohíben los sistemas con un nivel inaceptable de peligro para la seguridad de las personas, incluidos aquellos que utilizan «técnicas subliminales o deliberadamente manipuladoras, explotan las vulnerabilidades de las personas o se utilizan para calificar socialmente a las personas».
También pretenden prohibir determinadas tecnologías que ya están siendo utilizadas fuera de Europa, como los sistemas de identificación biométrica remota en tiempo real en espacios de acceso público, aunque aceptan que las fuerzas de seguridad puedan usar este tipo de cámaras y sistemas con autorización judicial con material grabado. También prohíben los sistemas de «categorización biométrica» que se basan en características sensibles como el género, la raza, la religión o la orientación política. Se propone prohibir también los programas «predictivos» basados en antecedentes pasados o en conductas presentes, o aquellos que son capaces de reconocer las emociones o los que pueden analizar indiscriminadamente los datos biométricos de redes sociales o de registros de cámaras de seguridad.
Influencia en política
Los eurodiputados han decidido también ampliar la clasificación de áreas de alto riesgo para incluir no solamente los sistemas que pueden causar daños a la salud, la seguridad, los derechos fundamentales o el medio ambiente sino también aquellos que pueden ser utilizados para influir en los votantes en las campañas políticas. Algunas de estas reglas podrán anularse cuando se realizan actividades de investigación y desarrollo de sistemas de código abierto.
En esta propuesta, los modelos básicos generativos, como el conocido Chat GPT, deberán cumplir con requisitos de transparencia adicionales, como revelar que el contenido fue generado por IA, evitar que genere contenido ilegal y publicar resúmenes de datos protegidos por derechos de autor utilizados para elaborar sus respuestas.
La UE se deberá dotar de una agencia para la inteligencia artificial, encargada de verificar si se cumple la legislación y recoger y tramitar las quejas de los usuarios. Además, la propuesta del Parlamento pretende que los proveedores autorizados tengan que registrarse en una base de datos europea.
Uno de los ponentes, el liberal rumano Dragos Tudorache, dijo que esta «es la primera legislación de este tipo en todo el mundo, lo que significa que la UE puede liderar el camino para hacer que la IA sea confiable, segura y centrada en el ser humano».
La cuestión es saber si será posible completar la tramitación en lo que queda de legislatura. El semestre de presidencia española será el último periodo hábil, dado que el año 2024 será prácticamente un periodo electoral, con las elecciones europeas de mayo como límite y una montaña de proyectos legislativos pendientes de su aprobación.