‘Deepfakes’: tenemos un problema
El perfeccionamiento de las imágenes realistas falsas alimenta la desinformación
Un tema candente que parecía a punto de estallar, el procesamiento de Donald Trump por una de las acusaciones a las que se enfrenta, y la nueva versión de una inteligencia artificial generadora de imágenes, han provocado un incendio que revela como esta tecnología está difuminando la cada vez más tenue línea que separa la realidad de la manipulación. Poco podía imaginar Eliot Higgins, fundador de la página de periodismo Bellingcat, que cuando tecleó en la plataforma Midjourney “Donald Trump cayendo mientras es arrestado” iba a abrir la caja de los truenos. La inteligencia artificial empezó a producir una serie de imágenes fotorrealistas que, analizadas de cerca, tienen fallos, pero que aparentan ser fascinantemente reales.
Higgins ha confesado en una entrevista que pensó que “quizás cinco personas” retuitearían esas imágenes falsas subidas a Twitter. Se equivocó. Fueron 5,6 millones. El periodista digital se fue animando, porque en su opinión “solo estaba haciendo el tonto”. Así que pidió a Midjourney imágenes de Trump detenido, en la sala de juicios, a su llegada a la cárcel, su vida como preso y hasta su fuga de prisión.
Las primeras imágenes realistas de personas creadas por inteligencia artificial, conocidas como deepfakes , se iniciaron en el 2014 a partir de una técnica llamada de redes adversariales generativas, que compara modelos de imágenes reales para crear otras que no existen en la realidad. Desde entonces, la tecnología ha ganado mucho. Midjourney, la plataforma de las polémicas imágenes de Trump, acabó por suspender la cuenta de Higgins, pero este no era el problema.
Enseguida se pudo comprobar que lo que fallaba eran las barreras propias de la IA, porque cualquiera podía seguir pidiendo imágenes falsas de personas reales. Lo hizo, por ejemplo, Jack Posobiec, un exmilitar activista de la ultraderecha de Estados Unidos y tuitero compulsivo, que colgó igual una imagen de Hillary Clinton siendo detenida por la policía como un vídeo del presidente Joe Biden anunciando un reclutamiento forzoso para la guerra de Ucrania. Todo falso, claro.
Pero la desinformación y la polarización de la sociedad, más acelerada con la IA de lo que ya lo era con las redes sociales sin la intervención de esta, es solo uno de los grandes peligros de los deepfakes. El porno es otro de ellos y se ceba especialmente en las mujeres. Blaire es una popular streamer de Twitch conocida como Qtcinderella que ha descubierto este mes que alguien había puesto sus facciones mediante una IA en una actriz porno. “Por cada persona que dice que no es para tanto –explicó–, no sabéis lo que se siente al ver que envían a tu familia una foto tuya haciendo cosas que nunca has hecho”.
Los casos son interminables. Un estudiante que estaba enfadado con su profesora utilizó la inteligencia artificial para hacerla protagonista de una película porno. La mujer fue despedida porque los padres no querían que trabajara con sus hijos. La lista de mujeres agredidas de esta manera apunta en especial a políticas, como Alexandria Ocasio-cortez, Lauren Book, Sarah Palin, Katie Hill, Nancy Pelosi, Marjorie Taylor Greene, Hillary Clinton y Michelle Obama, entre otras.
Una de las últimas ocurrencias ha sido poner la voz del fallecido cofundador de Apple, Steve Jobs, a CHATGPT. El resultado es un bot llamado Forever Voices para Telegram que se anuncia así: “Experimenta la magia de participar en conversaciones de voz bidireccionales con estrellas icónicas como Steve Jobs, Taylor Swift. Inspírate, entretente e ilumínate con nuestras conversaciones de voz con IA con las leyendas que siempre has admirado”.
Hasta hace poco tiempo, la creación de estas imágenes y vídeos falsos requería tener ciertos conocimientos informáticos. Ahora, no solo son mejores las falsificaciones, sino que están al alcance de prácticamente cualquiera que tenga interés en utilizarlas.
La regulación es una de las soluciones a los usos ilícitos de la tecnología. Las autoridades pueden imponerla, pero requiere que las compañías pongan sus propias barreras. Algunas ya lo hacen, aunque por lo general adoptan una política de solución de los problemas solo a medida que los crean.c
La utilización de las falsificaciones en el porno agrede en especial a las mujeres, tanto si son famosas como si no