Les «deepfakes», nouvelle entreprise de dépossession de soi

Distrayantes ou alarmantes, les images générées par l’IA interrogent sur les capacités de manipulation des masses. Pour éclairer les débats d’aujourd’hui, relisons Walter Benjamin, qui s’était penché dès 1936 sur les liens entre progrès techniques et autonomie du sujet

C’est la saison des deepfakes. Ils amusent, ils affolent, ils intriguent. Bref, on ne sait pas vraiment sur quel pied danser devant son écran, car leurs implications ne sont pas encore très claires. Regardées distraitement, les vidéos générées par l’IA semblent bien inoffensives. Des amusements un peu potaches, des canulars qui ne trompent personne ou presque. Vont-ils vraiment finir par détrôner la réalité, comment certains l’appréhendent?

Il y a d’abord les risques concrets dont on commence à prendre la mesure: usurpations d’identité, arnaques, revenge porn, manipulations politiques. La liste est forcément extensible, l’avenir dira jusqu’où. Ce sont autant de reflets d’une société hantée et façonnée par l’image. Car si nous sommes si faciles à manipuler, c’est que la présence des images a envahi nos vies depuis longtemps. Pas n’importe lesquelles: ce n’est pas l’art mais la technologie qui règne en maître. Dans le miroir qu’elle nous tend, le pas est vite franchi entre le vrai et le faux. Qu’est-ce qui distingue formellement une vidéo officielle de Taylor Swift et leurs dérivés pornographiques? Les unes ont engendré les autres, par fantasmes interposés. De même, la politique n’a pas attendu l’invention des deepfakes pour manipuler. Reste qu’on change aujourd’hui d’échelle.

Avec l’IA, le «trafiquage» des images s’émancipe peut-être de tout contrôle. Il se démocratise aussi, ou plutôt se massi