«Competir con Google o Meta es solo un sueño»
El coponente de la ley europea de la inteligencia artificial explica los detalles y las polémicas de una regulación que Bruselas ha descrito como «histórica», pero que aún tardará dos años en aplicarse.
— El pasado 8 de diciembre se alcanzó un acuerdo tras más de 35 horas de negociaciones. ¿Cuáles han sido los principales problemas?
— Al entrar en las negociaciones ya sabíamos que los grandes bloques serían los modelos fundacionales y el uso de la IA por parte de las fuerzas del orden. Hubo muchas discusiones sobre qué obligaciones adoptar en el primer caso, pero en el segundo fue aún más difícil alcanzar un acuerdo.
— En junio de 2023, el Parlamento Europeo prohibió la identificación biométrica. ¿Qué ha cambiado desde entonces para que se permita su uso por parte de la policía?
— El Consejo de la UE (organismo que representa a los estados miembros, entonces presidido por España) tenía un mandato muy claro. La primera propuesta de la Comisión Europea ya pedía excepciones policiales y puedo entender que todos los países las quisiesen. Así, la prohibición exigida por el Parlamento nos permitió empezar las negociaciones desde un punto más elevado y conseguir un acuerdo con salvaguardias mucho más sólidas de lo que se pensaba, por eso incluso los Verdes lo han apoyado.
— La ley prohíbe sistemas de IA con riesgos «inaceptables» pero permite otros de «alto riesgo» como el reconocimiento facial. ¿En qué casos se limita?
— Hemos eliminado el uso preventivo de IA, que habría abierto la puerta a todo tipo de abusos. También hemos limitado mucho el uso de sistemas biométricos, solo aplicables en situaciones de amenaza inminente, como un ataque terrorista, y mediante autorización judicial. Además, todo uso policial se limita a una lista muy estricta de delitos, debe ser notificado y requiere de una evaluación de riesgos.
— El Comité Europeo de Protección de Datos (CEPD) publicó un comunicado el lunes en el que se muestra «preocupado por la ausencia de líneas rojas (...) que prohíban desde el principio las aplicaciones de IA que planteen niveles inaceptables de riesgos»...
— Tendré que leerlo para saber a qué se refieren. El acuerdo tiene más prohibiciones que el acuerdo inicial. Sí hay una prohibición, pero con una excepción. Desde mi punto de vista, se trata de un uso legítimo porque sirve al interés público de seguridad y se basa en un marco que garantiza que no habrá abusos. Así que discrepo del comunicado del CEPD.
— Amnistía Internacional denuncia que la regulación dará vía libre al uso de IA en las fronteras para vigilar a los migrantes.
— Todo lo que sea analizar datos sin identificar o afectar a un individuo concreto, como la IA para predecir tendencias migratorias o crímenes, no tiene razón alguna para ser prohibido o categorizado como de alto riesgo. En el momento en que se somete a los individuos a los cálculos del sistema, como la IA para optimizar entrevistas de asilo o para detectar amenazas de ciertos grupos, ya se considera de alto riesgo. Eso significa que se puede desplegar la IA en esos contextos, pero que hay que hacerlo con garantías. Siempre habrá supervisión humana para que el algoritmo no tenga la última palabra.
— ¿Habrá exenciones para que las empresas europeas puedan competir con los gigantes estadounidenses de la IA?
— Los sistemas de alto riesgo deberán entrenar sus algoritmos con datos no sesgados. Los desarrolladores de esos programas de IA estarán obligados a que sus datos sean precisos y justos, pero también a ser transparentes en su diseño para explicar a las autoridades cómo han llegado a una conclusión y no a otra. Desgraciadamente, en los últimos 20 años se han creado unas dependencias que hacen que ahora mismo sea muy difícil competir con Google o Meta. Para mí, esto es sólo un sueño. No se puede, son demasiado grandes. Pero se puede seguir siendo competitivo. No hay que ponerse como objetivo ser el próximo Google europeo, eso es un falso dilema. Se puede tener mucho éxito y crear enormes beneficios y soluciones con IA, siendo incluso mejor que los estadounidenses en ello, sin ser Google.
■