Advierten lado oscuro de la IA
Especialistas temen que herramienta inteligente sea usada para crear más pornografía deepfake no consensuada, la que agrede sobre todo a las mujeres (AP).
■ Las herramientas de fácil acceso para crear imágenes con Inteligencia Artificial (IA) pueden empeorar algo que daña principalmente a las mujeres: la pornografía deepfake no consensuada.
■ Las imágenes deepfake son creadas o alteradas digitalmente con inteligencia artificial.
■ Existen miles de videos de este tipo en una gran cantidad de sitios web y algunos han estado ofreciendo a los usuarios la oportunidad de crear sus propias imágenes, esencialmente permitiendo que cualquiera convierta a quien quiera en fantasías sexuales sin su consentimiento, o use la tecnología para dañar a sus ex parejas.
■ El problema, dicen los expertos, creció a medida que se hizo
más fácil hacer deep-fakes sofisticados y visualmente atractivos, a partir de las nuevas tecnologías.
■ Advierten que podría empeorar con el desarrollo de herramientas de inteligencia artificial generativa que se entrenan en miles de millones de imágenes de internet y arrojan contenido novedoso.
■ Algunos modelos de inteligencia artificial ya están restringiendo el acceso a imágenes explícitas.
■ OpenAI señala que eliminó el contenido explícito de los datos utilizados para entrenar la herramienta de generación de imágenes DALL-E, lo que limita la capacidad de los usuarios para crear ese tipo de fotos o videos.
■ La compañía también filtra las solicitudes y dice que bloquea a los usuarios para que no creen imágenes de IA de celebridades y políticos prominentes.
■ Midjourney, otro modelo, bloquea el uso de ciertas palabras clave y alienta a los usuarios a señalar a los moderadores las imágenes que consideren problemáticas.
■ La startup Stability AI lanzó una actualización en noviembre que elimina la capacidad de crear imágenes explícitas utilizando su generador de imágenes Stable Diffusion.
■ Tales cambios se produjeron después de los informes de que algunos usuarios estaban creando imágenes de desnudos inspiradas en celebridades utilizando la tecnología.