Las niñas, víctimas de la inteligencia artificial
● El Consejo Audiovisual de Andalucía alerta de la proliferación de aplicaciones de fácil acceso que simulan la desnudez de mujeres jóvenes
Ocurrió aquí al lado, aquí mismo. Fue en Almendralejo, en Badajoz, el pasado mes de septiembre. Más de veinte niñas de entre 11 y 17 años denunciaron que sus cuerpos habían aparecido desnudos de un día para otro en los teléfonos móviles de sus compañeros de clase. El medio fue el mensaje. Una aplicación que usaba la inteligencia artificial creó cuerpos desnudos a partir de las fotos de las niñas vestidas bajo la orden de unos chavales que jugaban con las imágenes, que jugueteaban con las armas que les da la modernidad. Las redes sociales fueron el destinatario final antes del resto de la humanidad. Las imágenes se propagaron hasta el infinito por Whatsapp y Telegram. La alarma social también se propagó de un día para otro. Y seguirá propagándose.
El Consejo Audiovisual de Andalucía (CAA) ha publicado un informe que estudia las consecuencias de las aplicaciones digitales que emplean la inteligencia artificial para crear imágenes desnudas de personas vestidas, vulnerando los derechos de los menores en este caso y que justifican, considera la CAA, la actuación de los poderes públicos para bloquear el acceso a estas páginas y para exigir responsabilidades a los usuarios y a las empresas que lo difunden. Estas aplicaciones, como es sabido, posibilitan que las fotos de las personas comunes, principalmente las de mujeres, se conviertan en modelos eróticos o pornográficos de incierta difusión en el espacio y el tiempo, disponibles para todo el planeta y, si se da el caso, para las próximas generaciones.
OBJETIVO, LOS MENORES
El CAA ha analizado los riesgos del uso de la inteligencia artificial, teniendo en cuenta los datos sobre el incremento del consumo de contenido sexual por parte de los menores y la existencia de las aplicaciones que crean material pornográfico falso e hiperrealista que circula por las redes y a los que los menores de edad tienen acceso de un modo fácil.
El estudio del CAA concluye que ninguna de las páginas analizadas dispone de un sistema fiable que verifique la mayoría de edad de los usuarios. Más concretamente, 13 de las 18 páginas de Internet analizadas no tenía ni siquiera una advertencia sobre la edad de los usuarios. Las cinco restantes muestran una advertencia y el usuario, mediante una sencilla pulsación del ratón, puede declarar que es mayor de edad.
Ninguna de las webs analizadas en el estudio está alojada o registrada en España. Toronto y Reikiavik son las ciudades que más se repiten pero también hay otras como Kuala Lumpur, Nassau, Arizona o Walnut. Un dato a tener en cuenta, explica el CAA, es que todas las aplicaciones están escritas en inglés, aunque la mitad de ellas, al detectar la localización del usuario, son traducidas al español.
El presidente de la CAA, Domi del Postigo, llama la atención sobre las consecuencias. En primer lugar están los menores. “El Código Penal ya lo tipifica. A veces nace de un juego entre los chavales que desconocen que sus actos puede ser un delito. Es un delito que no conocen los padres, que son responsables si los infractores son menores de 14 años. Para los mayores de 14 años, la responsabilidad es del infractor, que puede acabar en un centro de menores”. La solución que propone el CAA es “seguir presionando para que la legislación no se quede atrás en comparación a la velocidad a la que van estas aplicaciones”.
OBJETIVO, LAS MUJERES
No es una tontería. Hay aplicaciones que pueden ser utilizadas gratuitamente. Otras veces, explica el CAA, es necesario inscribirse o darse de alta ofreciendo la dirección de un correo electrónico. En ambos casos, el número de imágenes que pueden generarse está limitado e incluso no genera desnudos gratuitos a veces sino que genera imágenes con lencería o bikini o con cuerpos desenfocados. En algún caso se crean imágenes pornográficas desde cero. Principalmente son cuerpos de mujeres.
“Es un asunto de género. La práctica mayoría de las aplicaciones sirven para desnudar a mujeres, convirtiéndose en una herramienta más para cosificar el cuerpo femenino”, explica Del Postigo. “Y todo esto sucede en una sociedad que tiene entre sus prioridades las políticas de igualdad. Las administraciones que tienen competencia en la materia deberían legislar y observar sobre la cuestión”.
El presidente de la institución audiovisual andaluza cree necesario que “las administraciones concernidas deberían tener más rapidez en concretar lo que están calificando estos delitos, que ya incluye el Código Penal. Antes, este tipo de delitos se cometían de un modo más rudimentario pero ahora se hace mediante herramientas de Inteligencia Artificial, que son mayormente gratis y que contienen un realismo que no había. Hay una novedad en el delito y debería haber novedades en la concreción de la tipificación de estos delitos”.
Los adolescentes pueden acceder a páginas declarando que son mayores de edad
La institución cree que el bloqueo de las páginas está en la mano de las administraciones