L’IA accusée de wokisme, c’est une très bonne chose

Certains y verront un débat affligeant. J’y vois au contraire une nouvelle opportunité de poser des questions passionnantes concernant l’objectif de l’intelligence artificielle (IA) et des services qui y sont liés.

On parle ici de la toute récente polémique concernant le générateur d’images Gemini de Google. Le service – disponible aux EtatsUnis, mais pas encore en Europe –, mis en ligne récemment, offre des résultats d’une qualité impressionnante. Des internautes ont essayé – et c’est une très bonne chose – de tester la machine avec des requêtes intéressantes: des images de soldats allemands de 1943, des papes, des Vikings ou encore les fondateurs de Google.

Résultat: dans leur immense majorité, des visages de personnes noires et asiatiques apparaissaient sous les requêtes.

Immédiatement, certains internautes, dont un certain Elon Musk, ont crié au scandale: Gemini a été accusé de wokisme, de réécrire l’histoire et Google a été soupçonné de «racisme anti-Blancs». La multinationale, sans doute prise de panique, a immédiatement désactivé la génération d’images sur Gemini et s’est longuement excusée en ligne.

Le débat est intéressant à plusieurs niveaux. D’abord, les systèmes de génération d’images basés sur l’IA doivent-ils vraiment coller à la réalité historique? Ne sont-ils justement pas mis en service pour laisser libre cours à l’imagination? On demande à Gemini ou ChatGPT de livrer des résultats textuels exacts, mais est-il légitime d’attendre la même chose pour la création d’images de synthèse?

L’autre question a trait à la diversité des résultats créés. Depuis longtemps, les systèmes de génération d’images – mais aussi de textes – ont été accusés de minoriser certaines personnes et de sexisme – l’immense majorité des images de médecins représentaient des hommes, par exemple. Le fait que Google ait mis le curseur plus loin est intéressant. Est-ce vraiment problématique? Où exactement devrait se situer ce curseur? Personne n’a la réponse.

N’oublions pas que cette «affaire» s’inscrit dans un contexte où un petit sentiment de défiance envers Google existe: en décembre dernier, la société avait légèrement trafiqué une vidéo de démo de Gemini…

Toutes ces interrogations sont passionnantes. L’IA n’a rien de neutre, et c’est une bonne chose d’en débattre. ■