Face aux «deepfakes», une lutte difficile

Des photos et vidéos pornographiques de la chanteuse Taylor Swift créées à l’aide de l’IA ont été vues des millions de fois. Contre ce fléau, des solutions techniques et juridiques sont esquissées, mais leur efficacité est incertaine

Les chiffres disent tout d’un phénomène hors de contrôle. Des images vues plus de 45 millions de fois, republiées plus de 24000 fois, recueillant des centaines de milliers de likes… Taylor Swift, star mondiale de la musique, est devenue en quelques heures la star des deepfakes. Depuis quelques jours, des fausses photos et vidéos de la chanteuse américaine ont inondé le web, partagées notamment sur le réseau social X. Comment lutter contre ce fléau massif, touchant également de plus en plus d’inconnues et de mineures?

Alors que les premières fausses images sont apparues en milieu de semaine passée, il était toujours facilement possible, hier, d’accéder à ces photos et vidéos manipulées. Comme l’a constaté Le Temps, les films pornographiques sont notamment d’un réalisme confondant, avec une Taylor Swift semblant ultra-réaliste. «Ce n’est pas une surprise. Le phénomène des deepfakes est en pleine explosion depuis la démocratisation de l’intelligence artificielle (IA). Il n’est pas étonnant non plus que ces outils permettent de créer des contenus pornographiques, sachant qu’ils sont entraînés sur toutes sortes de données trouvées sur internet (training data) dont des images pornographiques, voire pédopornographiques. De plus, les deepfakes sont en pleine explosion à cause de la facilité avec laquelle toute personne, dont les enfants, peut accéder à des outils d’IA générateurs de toute sorte de contenus», note Yaniv Benhamou, professeur en droit du numérique à la Faculté de droit de l’Université de Genève et avocat.

Outil de Microsoft?

Impossible de dire quel outil a permis de générer ces photos et vidéos: selon le site spécialisé 404 media, les images ont d’abord été partagées sur un groupe de la messagerie Telegram, groupe dont les membres génèrent souvent des deepfakes utilisant des outils de Microsoft. La plupart des services permettant de créer des images, tels Midjourney, Dall-E ou Bing, n’autorisent pas la création de contenus pornographiques. Mais il est possible de télécharger certains de ces outils et de les modifier pour supprimer ces interdictions.

Ce mardi, Satya Nadella, directeur du groupe, doit s’exprimer dans l’émission NBC Nightly News. Dans des extraits déjà diffusés, il juge la prolifération des deepfakes «alarmante et terrible». Mais n’esquisse aucune piste concrète pour la contenir. «On ne peut empêcher la création de ces fausses images. Il y a des solutions pour faciliter leur détection, mais la sophistication des outils de fabrication de deepfakes augmente très vite. C’est une course aux armements, un peu comme pour les virus et les antivirus. La communauté de recherche y travaille activement, y compris à l’EPFL évidemment», note Jean-Pierre Hubaux, directeur académique du Center for Digital Trust (C4DT) de l’EPFL.

X fait un geste

De son côté, Yaniv Benhamou estime qu’«au niveau de la création, les outils d’IA semblent pouvoir être conçus de sorte à empêcher de générer certains contenus, surtout les outils propriétaires. Mais c’est plus difficilement le cas avec les outils open source. Au niveau de la diffusion, les plateformes de partage comme les réseaux sociaux devraient aussi pouvoir améliorer l’identification de contenus artificiels.» On a ainsi vu X bloquer, en tout cas temporairement, certaines requêtes liées à Taylor Swift.

Face aux deepfakes existe aussi l’arme législative. Au niveau européen se profilent la future loi sur les services numériques (Digital Services Act) et l’obligation d’étiqueter comme tel tout contenu artificiel, dans le cadre du IA Act actuellement en discussion. En parallèle, d’autres avancées législatives sont en cours. «Il peut y avoir un renforcement du Code pénal avec la punissabilité des deepfakes, comme en France avec le projet de loi SREN ou aux Etats-Unis avec certains Etats prévoyant des lois anti-revenge porn, poursuit Yaniv Benhamou. Et aux Etats-Unis, la régulation fait l’objet d’un bras de fer à l’échelle nationale, puisque tant la Cour suprême que la Chambre des représentants discutent encore pour savoir dans quelle mesure il est acceptable qu’une législation vienne encadrer la modération des réseaux sociaux.»

De son côté, la Suisse discute aussi d’une réglementation plus stricte des plateformes, incluant les deepfakes. Mais Jean-Pierre Hubaux avertit: «Les progrès et surtout l’adoption des outils numériques – y compris les outils néfastes – sont beaucoup plus rapides que le législatif et le judiciaire. C’est un énorme défi pour l’humanité.» ■

«Toute personne peut accéder à des outils d’IA générateurs de toute sorte de contenus»

YANIV BENHAMOU, AVOCAT