Le deepfake porn
Des internautes s’amusent à coller des visages de stars sur des corps d’actrices porno. Ça s’appelle le DEEPFAKE PORN : un jeu dangereux flirtant avec l’humiliation publique.
GAL GADOT, LA STAR DE “WONDER WOMAN”, ALANGUIE SUR UN LIT, REÇOIT SON BEAU-FRÈRE ET TOUS DEUX TESTENT UN SEXTOY avant de se livrer à d’autres ébats. Cameron Diaz, le regard désespérément fixe, administre une fellation à un individu. Ceci n’est pas une sextape, ce sont des images, forcément nées sur internet, qui repoussent les frontières du porno. C’est le deepfake porn, dont l’origine trouve sa source sur le site communautaire Reddit. Fin 2017, le site Motherboard repère sur Reddit un utilisateur baptisé “deepfakes” qui dit avoir développé un programme pour retoucher le visage d’une actrice pornographique et le faire ressembler à une célébrité mainstream. Basé sur l’intelligence artificielle (IA), il ingère une masse de données (photos et vidéos de la star) pour permettre ce vertige : le croisement entre la Porn Valley – surnom de l’industrie X californienne – et la Vallée de l’Etrange (Uncanny Valley), cette notion esthétique où les images numériques, dans leur tentative (et tentation) d’imiter la réalité, provoquent le malaise.
“Deepfakes” a développé son programme à partir de TensorFlow, une technologie d’IA disponible gratuitement sur le net. Le mode d’emploi s’est vite répandu et a ouvert un flot d’images manipulées où les visages d’Emma Watson, Natalie Dormer, Daisy Ridley ou Scarlett Johansson sont détournés à des fins pornographiques, avec divers degrés de réussite. Ces séquences s’échangent sur Reddit, font bien sûr florès ailleurs sur la toile, notamment sur les sites X comme YouPorn. Un fake d’Emma Watson nue sous la douche apparaît sur Celeb Jihad,
site spécialisé dans la diffusion de clichés piratés de stars nues, et est considéré comme vrai. Dès février 2018, PornHub bannit officiellement le deepfake porn dans la foulée de Twitter et Gfycat (site où les internautes peuvent créer leurs propres gifs), tandis que Reddit ferme /r/Deepfakes, un sous-forum dédié qui regroupait jusque-là 90 000 intéressés. Certaines de ces séquences sont encore en ligne et facilement accessibles.
Le porno est un monde parallèle qui fantasme sur le nôtre, et le deepfake porn un moment d’une histoire du X où les actrices doivent afficher une ressemblance (de nom ou physiquement) avec les stars “traditionnelles”(les Kimberly Kane et Megan Rain comme sosies respectifs de Katy Perry et Megan Fox, par exemple), où les films parodient Hollywood.
Il y a aussi, bien sûr, les noces continues et complexes du X avec la technologie : de la légende voulant que l’industrie du porno ait permis la suprématie du VHS sur la Betamax, jusqu’aux tubes transformant la consommation de films en une succession de fragments de scènes, classées par mots-clés et niches pointues. Apprentissage profond (ou comment l’IA apprend par est elle-même à reconnaître visages et langages pour mieux les imiter) vs Gorge profonde. Le deepfake porn empiète sur notre réalité et soulève des questions éthiques et judiciaires que l’on commence à peine à mesurer.
Après les stars, les victimes potentielles du deepfake porn sont des anonymes. PornHub ayant banni ces séquences car “non consenties”, le revenge porn est tout désigné pour user et abuser de cette technologie libre d’accès, humilier un(e) ex ou n’importe qui. Après avoir écrit des articles mettant en cause le principal parti politique en Inde, le Bharatiya Janata, dans des violences contre des minorités et castes inférieures, la journaliste indienne Rana Ayyub a été victime de deepfake porn en avril 2018. Du slut shaming pratiqué en masse par des militants nationalistes, des tombereaux d’insultes déversés sur les réseaux sociaux selon une campagne très orchestrée.
Comment se protéger ? Les chercheurs de la State University of New York travaillent sur un programme d’IA capable de reconnaître un deepfake porn, notamment à cause de l’absence de micro-mouvements humains comme les clignements des yeux. L’enjeu
– bien au-delà du porno et qui va comme un gant aux fake news – réside encore une fois dans la technologie et la législation. Les premières à être rétives à toute régulation sont les majors d’Hollywood elles-mêmes : Disney, NBC Universal, Warner et Viacom se sont opposées début juin à un projet de loi de l’Etat de New York (le New York Assembly
Bill A08155B) selon lequel la personne concernée devait donner son accord pour que son image soit digitalement intégrée dans un film. Car le deepfake porn utilise pour l’instant des versions low-cost de celles qui ont permis de ressusciter dans le film Rogue One l’acteur décédé Peter Cushing et de “transplanter” le visage rajeuni de Carrie Fisher sur le corps d’une autre actrice. Les majors se réfugient derrière la liberté d’expression et la Constitution. Et refusent tout obstacle qui les empêcherait de produire des “biopics sur des acteurs, musiciens et sportifs créés avec des effets spéciaux” et qui “mettrait en péril notre capacité à raconter des histoires sur des personnes réelles”, selon l’argument de NBC. La réalité n’est vraiment plus ce qu’elle était.