Les «deepfakes» turcs, un avant-goût de nouvelles menaces

Les contenus manipulés se sont multipliés avant l’élection présidentielle turque qui s’est tenue hier. Des montages plus sophistiqués encore sont à craindre ces prochains mois

Mélange de vidéos, utilisation de matériel pornographique, montages entre des images datant de plusieurs années… Alors que les bureaux de vote ont ouvert ce dimanche, les Turcs ont été soumis à de nombreux contenus trafiqués. Grandement facilitées par la démocratisation d’outils d’intelligence artificielle (IA), les fausses vidéos (deepfakes) se sont multipliées autour des candidats à cette élection. Leur diffusion est un avant-goût de ce qui nous attend ces prochains mois – avec en particulier l’élection présidentielle américaine de 2024: des vidéos de qualité meilleure encore, avec des contenus plus subtils, diffusés extrêmement rapidement via les réseaux sociaux notamment.

Ces dernières semaines, de nombreuses voix se sont élevées pour dénoncer les dangers de l’IA, au développement si rapide qu’elle pourrait mener à la destruction de l’humanité, avec des machines susceptibles de se retourner contre leurs créateurs. En parallèle, de nombreux experts ont alerté sur un danger bien plus immédiat: la génération de faux contenus – textes, photos, vidéos, voix – risquant aujourd’hui déjà de déstabiliser la démocratie.

D’ailleurs, un expert en communication, Moritz Zumbühl, mettait en garde dimanche dans la SonntagsZeitung contre l’utilisation de l’IA dans la campagne des législatives fédérales d’octobre. Même si une fausse image d’un homme politique est repérée, sa réputation reste entachée, ajoute le spécialiste. Les partis devraient se mettre d’accord pour ne pas utiliser l’IA dans des campagnes négatives durant cette année électorale, selon Moritz Zumbühl.

Voici quatre exemples de ce qui a été diffusé en Turquie tout récemment.

«Deepfake»… puis lapsus

Autour du 9 mai est partagée une vidéo montrant un discours de Devlet Bahçeli, président d’un parti d’extrême droite membre de la coalition au pouvoir. On y voit à sa gauche, sur l’estrade, le président actuel, Recep Tayyip Erdogan, l’écouter attentivement. Or Devlet Bahçeli attaque soudainement son allié, affirmant qu’il «demanderait des comptes aux sept descendances de Recep Tayyip Erdogan». A côté de lui, le président demeure impassible.

Or cette vidéo est un faux: les images ont été filmées le 20 février dernier, lorsque les deux hommes s’exprimaient après le tremblement de terre dévastateur qui avait frappé le pays. Quant aux paroles, elles ont été prononcées en 2014, lorsque les deux hommes étaient encore adversaires politiques.

Mais ce qui a rendu cette vidéo crédible, c’est que Devlet Bahçeli est un habitué des lapsus. Ce week-end encore, lors d’un discours, il a mal prononcé en turc le mot «secouer», disant «baiser» à la place, ce qui a donné cette phrase, lorsqu’il parlait des présidents de puissances étrangères: «Même si tous tentaient de baiser Recep Tayyip Erdogan, ils n’y arriveraient pas. L’enfant de l’Anatolie, Recep Tayyip Erdogan, les vaut tous.»

Vidéo détournée

Il y a quelques jours, apparaît sur le réseau social chinois TikTok une vidéo de Kemal Kiliçdaroglu, principal opposant du président actuel. L’homme tient des propos surréalistes, affirmant notamment: «Mon cher peuple, Erdogan est le leader du siècle.» Vue plus d’un million de fois sur ce réseau social, cette vidéo est en réalité doublement détournée. C’est bien sûr un faux, puisqu’on voit que les mouvements des lèvres et des mains de Kemal Kiliçdaroglu ne sont pas cohérents. Et des observateurs ont noté que la vidéo originale du candidat est en ligne sur YouTube. Dans ce clip, il y dénonce les dangers des… deepfakes.

Dans cet exemple, la vidéo truquée est de piètre qualité. Mais elle a tout de même été partagée un nombre impressionnant de fois.

Un montage tendancieux

Dimanche dernier, c’est le président sortant qui a diffusé luimême une vidéo manipulée. Lors d’un meeting électoral à Istanbul, Recep Tayyip Erdogan diffuse un clip d’une poignée de secondes, tendant à montrer que son rival Kemal Kiliçdaroglu «avance main dans la main avec le [groupe armé] PKK». Dans cette séquence vidéo, on voit durant un bref instant Kemal Kiliçdaroglu appeler les citoyens à se rendre aux urnes, puis un responsable du Parti des travailleurs du Kurdistan (PKK) faire de même dans la séquence qui suit immédiatement. Comme si les deux hommes lançaient un appel commun.

Il n’en est rien: c’est un montage, les vidéos étant simplement collées l’une après l’autre.

Si une fausse image d’un homme politique est repérée, sa réputation reste entachée

Contenu pornographique

Récemment, l’un des candidats à l’élection présidentielle, Muharrem Ince, a quitté la course. Pourquoi? L’homme a affirmé qu’il avait été victime de fausses images et vidéos pornographiques, ayant pour but de le discréditer. «Si j’ai eu de telles images de moi, elles ont été prises secrètement dans le passé. Mais je ne dispose pas d’une telle image, ni d’un tel enregistrement sonore. Ce n’est pas ma vie privée, c’est de la calomnie. Ce n’est pas réel», a-t-il affirmé, ajoutant: «Ils ont mis mon visage sur une vidéo provenant d’un site pornographique israélien».

▅