Deepfake : le maire utilise l’intelligence artificielle pour adresser ses voeux

Le maire de Verneuilsur-Seine a fait appel à l’intelligence artificielle et au deepfake pour présenter ses voeux de l’année 2024.

La voix, le visage, le ton, tout est ressemblant… Il faut s’y reprendre à deux fois pour se rendre compte que ce n’est pas Fabien Aufrechter, le maire de Verneuil-sur-Seine, qui s’adresse à ses administrés, mais un avatar, généré par une intelligence artificielle. Pour présenter ses voeux de l’année 2024, l’élu a fait appel au deepfake.

La deepfake, qu’est-ce que c’est ?

Le deepfake, contraction des termes anglais « deep learning » et «fake», permet de créer et de reproduire le comportement humain en vidéo à partir d’un fonds d’images antérieures. Ce système permet de faire dire ce que l’on veut à une personne.

La preuve : dans sa vidéo des voeux, Fabien Aufrechter passe facilement de l’espagnol à l’allemand, de l’anglais au chinois, ou encore de l’arabe au russe et du portugais à l’italien sans une once d’hésitation ni le moindre accent. Le résultat est autant bluffant qu’inquiétant. Seules les mimiques un peu robotisées trahissent ce clone plus vrai que nature. «Il m’a fallu moins d’une minute avec un logiciel gratuit pour faire cette vidéo », assure l’édile.

Sensibiliser à la dangerosité de l’IA

« Le plus long, c’était pour télécharger la vidéo, ironise l’élu. Mon idée était de montrer que la démocratisation de ces technologies, qui sont hyper faciles à utiliser, apporte un risque à notre démocratie, que ça soit en vue des élections européennes, américaines, ou même à notre échelle locale, souligne le maire de Verneuil-sur-Seine. Avec quinze secondes de vidéo, on peut propager des fakenews. »

L’élu sait de quoi il parle. Directeur Web 3.0 chez Vivendi, Fabien Aufrechter est en charge notamment de l’intelligence artificielle au sein du groupe spécialisé dans les médias et la communication. « Ce sont des technologies que je suis avec cette casquette et ça m’inquiète aussi bien pour le business que pour la politique. » Pour lui, « l’enjeu des prochains mois sera de protéger, d’authentifier les contenus, que ce soit pour éviter des fakenews ou protéger l’industrie de la création ».

Un coup de communication

Le maire de Verneuil-sur-Seine n’a pas été le seul à se distinguer dans l’exercice ces derniers jours. Loïc Signor, porte-parole du parti Renaissance, a détourné les voeux de Marine Le Pen (Rassemblement national) dans une vidéo publiée le 31 décembre 2023 sur X (ex-Twitter). On y voit la leader du RN y parler en russe (sous-titres en français) à l’aide de l’intelligence artificielle et d’un audio trafiqué.

Ce coup de communication a quand même permis à Fabien Aufrechter d’annoncer les nouveautés attendues dans sa commune. « 2024 sera une année très numérique. Nous ouvrirons un FabLab, lancerons le nouveau site Internet de la Ville et donnerons le coup d’envoi d’un guichet numérique unique », a énuméré le maire de Verneuil-sur-Seine.

Capture d’écran Contrairement à ce que l’on peut penser, ce n’est pas Fabien Aufrechter, le maire de Verneuil-sur-Seine, qui se trouve ici face à vous, mais son avatar, créé en moins d’une minute par l’édile lui-même grâce à l’intelligence artificielle.