Taylor Swift, y la regulación
Taylor Swift, cantante y compositora multipremiada y reconocida, fue objeto de una serie de de tipo pornográfico que circularon en la red social “X” hace una semana, y que han generado tal revuelo que, de nueva cuenta, se ha puesto sobre la mesa la necesidad de contar con medidas efectivas para prevenir y, en su caso, castigar, este tipo de contenidos.
Las deepfakes son creaciones de video, imagen o voz generadas con inteligencia artificial que, aunque no necesariamente tengan la intención de engañar, parezcan reales y auténticas. Si bien los montajes y la creación de falsedades en video, audio o imagen no son nada nuevos, el desarrollo de herramientas y programas que utilizan inteligencia artificial para generar contenidos que parecen casi indistinguibles de la realidad ha hecho proliferar en el último año este tipo de contenido.
Aunque no todas las deepfakes son dañinas, aquellas que utilizan la imagen de alguna persona sin su consentimiento para afectar su dignidad —como son muchas de las deepfakes pornográficas—, desde luego que terminan por vulnerar sus derechos más básicos. Aquí, cabe preguntarnos, ¿qué se está haciendo para prevenir estos daños y para sancionar a los responsables?
En Estados Unidos, este episodio coincide con un momento en que, de forma excepcional, congresistas de ambos partidos coinciden en que es necesario tomar cartas en el asunto y empujar algunas propuestas de regulación a nivel federal.
Hasta el momento, unos diez estados han promulgado leyes contra la creación de deepfakes pornográficas sin consentimiento, tales como California, Georgia, Texas y Hawai. Algunos también penalizan, además, su distribución, como Virginia y Nueva York, y en este último, junto con California e Illinois, las víctimas tienen derecho a entablar demandas contra quienes hayan utilizado así sus imágenes sin permiso.
A nivel federal, los congresistas ya tienen una iniciativa llamada Ley de Prevención de Deepfakes de Imágenes Íntimas (Preventing Deepfakes of Intimate Images Act) que goza de consenso bipartidista y en el Comité Judicial del Senado ya hay también una iniciativa que podría modificar las reglas de interacción en las propias redes sociales. Se trata de la iniciativa de ley STOP CSAM que busca proteger a menores víctimas de abuso infantil, permitiéndoles demandar civilmente a una plataforma por haber alojado el material de su abuso de forma intencional, consciente o imprudente.
En Europa, la Ley de Seguridad en Línea (Online Safety Act) del Reino Unido proscribe compartir material de deepfakes pornográfico, pero no penaliza su generación, mientras que la Ley de Inteligencia Artificial, recientemente aprobada en la Unión Europea, requiere que quienes generen deepfakes —de todo tipo— revelen que su contenido ha sido creado con inteligencia artificial. De forma complementaria, en la Unión Europea, la Ley de Servicios Digitales también establece obligaciones para que las plataformas remuevan diferentes tipos de contenido considerado dañino a los derechos humanos, incluyendo aquí, desde luego, las deepfakes no consensuadas de tipo pornográfico.
deepfakes
Hasta el momento, unos diez estados promulgado leyes contra la creación de deepfakes pornográficas sin consentimiento, tales como California, Georgia, Texas y Hawai.
han
En China, donde se aprobó la primera ley de deepfakes en el mundo en 2022 —en vigor desde enero de 2023—, se establecen una serie de responsabilidades y obligaciones para quienes generen este tipo de material.
Por ejemplo, los creadores de deepfakes deben tomar todas las medidas a su alcance para evitar que su material sea utilizado con fines dañinos o ilegales, deben autentificar la identidad real de los usuarios, deben buscar el consentimiento de aquellas personas cuya imagen será utilizada en la creación de deepfakes, deben indicar que el contenido ha sido generado con inteligencia artificial, y no podrán usar este tipo de contenido para difundir información falsa.
México, si bien no tiene una ley específica sobre deepfakes, sí cuenta con un conjunto de reformas legislativas que busca reconocer la violencia digital y sancionar los delitos que violen la intimidad sexual de las personas a través de medios digitales. Se trata de la llamada Ley Olimpia, aprobada desde 2018 y que, no sólo es anterior, sino que, en muchos sentidos, es más clara y específica que muchas de las legislaciones citadas.
En este sentido, señala como conductas que atentan contra la intimidad sexual: A) Video grabar, audio grabar, fotografiar o elaborar videos reales o simulados de contenido sexual íntimo, de una persona sin su consentimiento o mediante engaño. B) Exponer, distribuir, difundir, exhibir, reproducir, transmitir, comercializar, ofertar, intercambiar y compartir imágenes, audios o videos de contenido sexual íntimo de una persona, a sabiendas de que no existe consentimiento, mediante materiales impresos, correo electrónico, mensajes telefónicos, redes sociales o cualquier medio tecnológico.
En todos estos casos, es verdad que la mera existencia de leyes no implica su efectividad, pues entre otros obstáculos está la complejidad de identificar a no sólo a quienes distribuyen este material, sino a quienes lo generan, sobre todo cuando se trata de personas con perfiles públicos —como políticos, artistas, deportistas, etc—. Sin embargo, la existencia de leyes siempre otorga a las víctimas la posibilidad de contar con un recurso para responsabilizar a los causantes del daño y envía un mensaje claro a la sociedad sobre lo que no es aceptable.