La primera ley sobre inteligencia artificial nace con grietas
▶El Parlamento europeo aprobó ayer la normativa que entrará en vigor antes de la llegada del verano ▶Hay dudas sobre el uso de reconocimiento facial y temor a que los países no sean multados
Después de años de negociaciones y de idas y venidas, la Unión Europea, al fin, tiene su Ley de Inteligencia Artificial (IA), la primera de su clase en todo el mundo. El Parlamento aprobó ayer la normativa con una abrumadora mayoría de 523 votos a favor por solo 46 en contra. Para que se convierta en realidad, solo queda que los Estados miembro le den su visto bueno al texto, cosa que, a estas alturas, es poco menos que un trámite, y que este aparezca publicado en el Diario Oficial de la UE. Todo esto ocurrirá antes del final de la legislatura europea, que termina el próximo junio, aunque para que la ley sea plenamente efectiva todavía habrá que esperar dos años.
La normativa prohíbe el uso de determinados sistemas de inteligencia artificial en suelo comunitario por el peligro que implican y establece controles férreos a otros, entre otras medidas. Es «histórica», «pionera» y en general, «una ley buena, la mejor probablemente a la que podíamos aspirar», explican a ABC juristas consultados por ABC. Pero eso no implica, ni mucho menos, que sea perfecta. O que, en el futuro, cuando se aplique en su totalidad, no vaya a generar efectos indeseados. Estas son sus grietas:
Efectivamente, la Ley de Inteligencia Artificial prohíbe totalmente para cualquiera, ya sea empresa o administración pública, el uso de herramientas basadas en inteligencia artificial que puedan vulnerar gravemente los derechos de los ciudadanos y que se utilizan activamente en países autoritarios, como China. Ese es el caso de aquellos que están destinados a la puntuación social, la categorización biométrica de los ciudadanos para conocer raza, credo o ideología o el reconocimiento de emociones en el lugar de trabajo y en las instituciones educativas.
«Se exigirá que todos los productos reciban un sello de validación antes de que se comercialicen, se usen o se distribuyan. Algo que tiene mucho sentido», explica en conversación con ABC Pere Simon, coordinador del máster en Derecho Digital de la Universidad Internacional de La Rioja (UNIR).
El empleo tecnología de reconocimiento facial en espacios públicos ha sido una de las mayores causas de disensión entre el Parlamento, que quería prohibirlo por completo, y el Consejo, que deseaba dejar la puerta abierta a su uso. También fue el principal culpable de que el principio de acuerdo sobre la normativa alcanzado el pasado diciembre estuviese cerca (mucho) de romperse. De acuerdo con la ley, solo podrá emplearse por las fuerzas y cuerpos de seguridad para la investigación de dieciséis delitos concretos; entre ellos, la lucha contra el terrorismo, la trata de blancas o la localización de desaparecidos o víctimas de secuestros. Por norma general, su uso está sujeto a la autorización previa de una autoridad judicial o administrativa. Aunque, en caso de extrema gravedad, la tecnología se podrá poner en marcha sin consentimiento previo.
«Me parece bien que se use en algunos casos. Lo que me preocupa y me genera dudas es cómo se va a decidir su uso y quiénes van a ser los agentes encargados de que no se violen los derechos de los ciudadanos», señala Ofelia Tejerina, presidenta de la Asociación de Internautas.
La Ley de IA prevé sanciones para todas aquellas empresas que la incumplan. Estas varían desde los 7,5 millones de euros hasta los 35 millones, o el 7% del volumen de negocios global de la compañía infractora. Sin embargo, no se establecen sanciones de este tipo para los posibles fallos de la administración que, además, responde sobre el uso de una tecnología tan problemática como el reconocimiento facial. Por el contrario, la normativa señala que «cada Estado miembro establecerá normas sobre la medida en que podrán imponerse multas administrativas a las autoridades y organismos públicos». Dicho de otro modo: es posible que sus infracciones terminen quedando sin castigo económico.
«Es el mismo problema que tenemos ahora mismo con el Reglamento General de Protección de Datos, que no se está multando a las administraciones. ¿Quién vigila a los que nos vigilan?», alerta Borja Adsuara, expresidente de Red.es y abogado especializado en derecho digital. El experto, además, remarca que no puede ser que a las empresas privadas se les «caiga el pelo» y que al Estado «nunca le pase nada».
ChatGPT ha levantado una polvareda enorme en la red. Su enorme popularidad y el surgimiento de soluciones
similares en la red, capaces de generar texto, imágenes, audio y hasta vídeo a demanda del usuario, obligó a hacer cambios en la ley. De acuerdo con la normativa, la empresas detrás de las herramientas deberán cumplir con obligaciones de transparencia y seguridad adicionales, además de respetar la normativa de derechos de autor. Un tema espinoso de la tecnología. El reglamento, además, no es en absoluto claro sobre cómo pretende garantizarlo.
«No se resuelve expresamente, solo hay obligaciones. No dice qué va a pasar con este tema y cada país irá a la suya seguramente. Habrá que esperar a que se regule de forma única para Europa», dice Pere Simon.
El reglamento llegará en su totalidad en 2026. Demasiado tiempo, de acuerdo con todos los expertos en IA y ética consultados por ABC a lo largo de los últimos meses. Más teniendo en cuenta el enorme efecto que se espera que tenga la tecnología en la vida de todos en el futuro más inmediato. No obstante, habrá partes de la ley que irán siendo efectivas antes.
Seis meses después de la entrada en vigor, los Estados irán eliminando progresivamente los sistemas prohibidos. El encargado de supervisar que así sea, y de garantizar que todos los sistemas que llegan a la UE cumplen con la regulación, será la nueva Oficina de la IA dependiente de la Comisión Europea.
na de las actividades conmemorativas del bicentenario del Prado en 2019 fue ‘De gira por España’, un proyecto en el que el museo cedía en préstamo de un mes aproximadamente una docena de obras de especial relevancia a distintas instituciones de todas las comunidades autónomas, además de las ciudades autónomas de Ceuta y Melilla. Una iniciativa que han ‘copiado’ otros grandes museos internacionales como la National Gallery de Londres, que este año celebra sus 200 años y que llevará, a partir del 10 de mayo, algunos de los tesoros de su colección a doce museos y galerías de todo el Reino Unido, incluida la vilipendiada ‘Venus del espejo’, que irá a la Walker Art Gallery de Liverpool.
También hará algo similar el Museo d’Orsay de París, que festejará los 150 años del impresionismo prestando algunas
Uobras maestras de este movimiento de sus fondos a ciudades de toda Francia. A partir del 2 de abril, el Prado vuelve a emprender otra gira por España, en este caso por 18 instituciones distribuidas por localidades de todo el país, con la excepción de las grandes ciudades: Barcelona, Valencia, Sevilla y Bilbao, donde es más fácil que puedan ver préstamos de obras del Prado. En esta segunda gira, contará con un aliado, Telefónica, socio benefactor del museo desde 2005 y que ha contribuido a su transformación digital, dando un «salto tecnológico extraordinario». La compañía conmemora este año su centenario. El lema del proyecto, ‘El arte que conecta’, alude al hecho de que estas dos instituciones fomentan la conexión entre los españoles.
Cuando le preguntamos a Miguel Falomir, director del Prado, sobre si el proyecto entra en los planes de descentralización y descolonización puestos en marcha por Iceta y Urtasun, niega la mayor: «Yo no sabía en 2019 quién era Urtasun. Y en el bicentenario tampoco estaba Iceta como ministro. Para mí, es una obsesión enfatizar el carácter nacional del Prado, que no solo es parte de su nombre. Es uno de los pilares de mi gestión, un compromiso, con independencia del ministro de turno y de los partidos políticos que gobiernen. Si no prestamos obras, luego no querremos que las presten para exposiciones». El Prado no se trocea ni se va de Madrid, como denuncian en algunos foros.
Javier Solana, presidente del Patronato del Prado, cree que «el museo está más vivo que nunca». Como prueba, este proyecto que muestra «cómo nos presentamos en España». Falomir dice con orgullo que el museo que dirige «es una de las instituciones culturales más importantes y queridas de España. El Prado es más que un museo, tiene una gran relación afectiva con los españoles». Y por ello no se limita a exponer en sus salas. Gracias a otro proyecto, ‘El Prado extendido’ (antes conocido como ‘El Prado disperso’), la pinacoteca tiene depositadas unas 3.000 obras de sus colecciones en instituciones de toda España. Un programa que se está revisando: además de hacer un reparto más coherente y ordenado, los depósitos deben tener todas las garantías de conservación y seguridad. Por otro lado, está ‘El Prado en las calles’, con réplicas fotográficas de las colecciones del museo por España. En estos momentos está en Almería. Y a todo ello se suman exposiciones con fondos del Prado, como la que actualmente puede verse en CaixaForum Sevilla, centrada en el retrato del XIX.
Falomir subraya que ‘El arte que conecta’ simboliza «nuestra vocación nacional: ser un verdadero valor cultural para todos los españoles, invitándoles a venir a Madrid, pero también saliendo a su encuentro en su entorno más cercano». Acercar el Prado a todos los españoles es, para él, «una de las actividades más gratificantes» de su trabajo. Emilio Gayo, presidente de Telefónica España, destaca que «con esta iniciativa conseguimos conectar a personas
de toda España con un legado pictórico que a todos nos une y que además es uno de los más importantes del mundo. Llevamos la cultura a todos los rincones del país».
Víctor Cageao, coordinador general de Conservación del Prado, explica los pormernores del proyecto, que arrancará el 2 de abril con el préstamo de ‘El embarco de Santa Paula Romana’, de Claudio de Lorena, al Museo Nacional de Arqueología Subacuática (Arqva), de Cartagena (Murcia) y concluirá el 8 de diciembre, último día de la cesión de ‘Jerónimo de Cevallos’, del Greco, al Museo de Arte Moderno y Contemporáneo de Santander. Las obras estarán en torno a un mes en museos estatales, provinciales, municipales y hasta privados, quizá lo más discutible. Los hay de arqueología, de arqueología subacuática, de arte contemporáneo y hasta del vino. Como el Museo Vivanco de la Cultura del Vino de Briones (La Rioja), donde se exhibirá ‘Ofrenda a Baco’, de MichelAnge Houasse. En la selección de los destinatarios se ha tenido en cuenta que garanticen las condiciones de conservación y de seguridad necesarias.
Son 18 obras que suelen estar expuestas en las salas del Prado, de los siglos XVII al XIX. En ocasiones se han elegido en función de la vinculación del artista con el lugar. Así, una obra de Carreño de Miranda (‘Eugenia Martínez Vallejo, vestida’) viajará al Centro Niemeyer de Avilés, ciudad donde nació el pintor; un Alonso Cano (‘Cristo muerto sostenido por un ángel’), al Museo de Bellas Artes de Granada, su ciudad natal, y un Ribera (‘Magdalena penitente’) al Museo de Bellas Artes de Játiva, de donde el artista era oriundo.
Otras veces se han tenido en cuenta conexiones o temáticas afines, como un ‘Hércules’, de Rubens, que irá a Ceuta, ciudad ligada al mito griego de las columnas de Hércules. En la selección, dos Velázquez (su ‘Sibila’, al Museo Provincial de Lugo, y ‘Cabeza de ganado’, al Museo Municipal de Bellas Artes de Santa Cruz de Tenerife) y dos Goyas (‘La cita’, al Museo Etnográfico de Castilla y León en Zamora, y ‘Riña de gatos’, a la Casa del Reloj de Melilla). Un Van Dyck pondrá rumbo a Lérida, un Brueghel el Viejo, a Palma de Mallorca; un Zurbarán, a Tudela (Navarra), un Murillo, a Huesca; un Madrazo, a San Sebastián...
Por supuesto, hay líneas rojas en la selección de obras. Las que nunca salen del Prado, bien por su fragilidad, o por su relevancia: ‘Las Meninas’, de Velázquez; ‘Los fusilamientos del 3 de mayo’, de Goya; ‘La rendicion de Breda’, de Velázquez; ‘La Anunciación’, de Fra Angelico; ‘El Descendimiento’, de Van der Weyden; ‘El Jardín de las Delicias’, del Bosco... El coste del proyecto, 300.000 euros. Las instituciones destinatarias no aportan nada económicamente. En cuanto a los seguros, al ser obras del Prado no se aplica la garantía del Estado, como ocurre con los préstamos externos. ¿Tiene vocación de continuidad? «Ojalá lo hagamos con más frecuencia –responde Falomir–. Hemos tardado cinco años».
El 17 de marzo de marzo de 2020, tres días después de que el Gobierno decretara el estado de alarma, Juan Mayorga envió un correo electrónico a varios de sus amigos con este texto: «Amigas, amigos: Espero que estéis bien, y que lo esté vuestra gente. En mi casa, todos sanos y con ilusión. En estos días de confinamiento he conseguido acabar ‘La colección’. La adjunto por si sirve a alguien para pasar un rato del suyo. Perdonad sus muchas faltas. Os mando un abrazo, con ganas de dároslo pronto de verdad. Juan Mayorga».
Casi exactamente cuatro años después, ‘La colección’ sale de su confinamiento de papel y asalta el escenario. Lo hace en su propio teatro, La Abadía –el dramaturgo lo decidió un día sentado en las últimas filas de su Sala Juan de la Cruz–, dirigida por él mismo, y con un reparto que conforman José Sacristán, Ana Marzoa, Ignacio Jiménez y Zaira Montes. Alessio Meloni firma la escenografía, Juan Gómez-Cornejo la iluminación, Vanessa Actif el vestuario y Jaume Manresa la música y el espacio sonoro. La Abadía la coproduce con La Zona.
La primera versión del texto la concluyó en los primeros días del confinamiento, pero la idea había nacido cuando Juan Mayorga vio una entrevista a un matrimonio de ancianos y escuchó esta frase: «Es lógico que, teniendo la edad que tenemos y no teniendo hijos, la gente se pregunte por el destino de nuestra colección». El dramaturgo madrileño, con especial habilidad para encontrar temas para sus obras de teatro por las esquinas, apuntó la frase –«resplandeciente», dice Mayorga– en el cuadernito que lleva siempre consigo.
‘La colección’ cuenta la historia de Héctor y Berna, un matrimonio anciano sin hijos que, a lo largo de su vida, han reunido una colección. Buscan un heredero que pueda hacerse cargo de ella cuando ellos falten, y convocan a Susana para ‘examinarla’. Hay un cuarto personaje, Carlos, «quizá un examinador, o una pieza de la colección». Antes de los ensayos, Mayorga creía que la obra hablaba sobre el matrimonio, sobre el paso del tiempo y sobre la misteriosa relación entre las personas y los objetos. Hoy cree, confiesa, que la obra habla del amor y la muerte, los dos temas capitales del teatro. Son «cuatro vidas que se cruzan en una noche», cierra Mayorga.
Y es que el autor comenzó la aventura de poner en pie ‘La colección’ con «una misión»: «Encontrar a dos grandes actores que pudieran encarnar a Héctor y Berna. Llamé a José y a Ana como quien echa la carta a los Reyes Magos, y tuve la fortuna de que quisieran acompañarme. El teatro –añade Mayorga– es el arte del actor, y este espectáculo, especialmente, está levantado desde su talento y su elocuencia».
El cambio de perspectiva sobre su propia obra, admite el dramaturgo, tiene precisamente mucho que ver con el trabajo de los actores. «El texto sabe cosas que el autor desconoce»: es una máxima varias veces escuchada a Mayorga, que ha vuelto a cumplirse durante el proceso de ensayos. Incluso anteayer, revela a ABC Mayorga, escuchó a Sacristán decir una frase con una intención determinada y dijo: ¡Claro, eso era! «Han encontrado en el texto heridas que ellos han sabido leer –sigue–; angustias y urgencias que yo no sabía que estaban en el texto. A veces basta cambiar dos piezas, acompañar una frase con un gesto o un silencio para cambiar el significado de la obra. Ahora
comprendo ‘La colección’ de un modo distinto a como lo hacía cuando entramos en la sala de ensayos».
José Sacristán tercia y esboza una sonrisa para contar una anécdota: «Cuentan que un actor malísimo estaba interpretando ‘Hamlet’ tan mal que el público le abucheó, y el actor se volvió hacia los espectadores y dijo: ‘Yo hago lo que puedo, pero esta mierda no la he escrito yo’». Sacristán, que pisa el escenario del Teatro de La Abadía por vez primera –«le tenía muchas ganas», confiesa, «y me lo estoy pasando pipa en este viaje»–, elogia la escritura de Mayorga. «Es un privilegio pasar de Delibes, al que he estado interpretando los últimos años, a Mayorga. Su texto tiene una cosa estremecida, una fascinante ‘imprecisión’, y lo apasionante de enfrentarse a él es esa oblicuidad por la que hay que transitar. La musicalidad del texto, efectivamente, se completa en las representaciones».
Los jóvenes Zaira Montes e Ignacio Jiménez asienten cuando Ana Marzoa –que califica el proyecto como «salvavidas» en un momento especial de su vida– define la función como «interesantísima» y dice que «el lenguaje es muy importante para mí. La palabra es el paso más grande del ser humano hacia la libertad, y en unos momentos en que se está asesinando las palabras, Juan las ama y las rescata».
«Cada cosa contiene el tiempo que se ha depositado en ella, y la colección, el tiempo que hay entre sus cosas –dice en un momento de la función el personaje que interpreta José Sacristán, en un ejemplo de ese lenguaje del que habla Ana Marzoa–. Antes que las cosas, lo que se presencia es cómo algo llega a ser o deja de ser, cómo un pasado se pierde o se salva en un porvenir. En imágenes separadas por océanos y siglos aparecen las mismas agitaciones del alma, como si lugares y horas muy distantes estuvieran unidos por raíces subterráneas. Se presencia que los seres humanos de todos los tiempos somos contemporáneos, que una imagen hecha hace miles de años nos expresa y que cuanto había que decir ya estaba dicho desde el principio». La obra –dice el actor– habla de los seres humanos, «que vivimos coleccionando... y no solo objetos. También vida. En ‘La colección’ tratamos de la humanidad misma, de coleccionar y ser coleccionados».