Péril dans la maison démocratique

Des sommités mondiales de l’intelligence artificielle (IA), parmi lesquelles figure le chercheur montréalais Joshua Bengio ont formulé cette semaine une nouvelle mise en garde sur le risque que fait planer l’IA sur l’avenir de l’humanité. Dans un effort d’une remarquable concision, leur missive en une vingtaine de mots a frappé l’imaginaire. Les 350 signataires, aux premières loges du développement de l’IA, avertissent que leur créature pose un risque d’extinction de l’espèce humaine.

La liste des signataires comprend M. Bengio et Geoffrey Hinton, dépeints comme les parrains de l’IA moderne, de même que Sam Altman (l’homme à l’origine de ChatGPT chez OpenAI), Demis Hassabis (Google DeepMind) et Dario Amodei (Anthropic).

La lettre se veut davantage un appel à l’action qu’un pamphlet apocalyptique. « La mitigation des risques d’extinction liés à l’IA devrait être une priorité mondiale au même titre que d’autres risques à l’échelle de la société, tels que les pandémies et les guerres nucléaires », écrivent-ils. C’est la deuxième sortie d’envergure des penseurs de l’IA, après l’appel à un moratoire de six mois sur le déploiement des outils d’IA formulé en mars dernier.

Ces experts nous placent devant tout un paradoxe. Ils demandent une prise en charge par les États démocratiques des risques inhérents à la sécurité qu’ils ont inconsciemment implantés au coeur de leurs systèmes déréglementés. Dans la course à l’IA, ils ont trouvé le chemin le plus court vers la fonctionnalité avec un prodigieux succès. Les dimensions éthiques et la sécurité des systèmes pour les individus et les institutions démocratiques n’ont sûrement pas trouvé leur juste poids dans la réflexion.

Leur cri d’alarme renvoie l’écho de Robert Oppenheimer, le père de la bombe nucléaire, qui puisa dans les textes sacrés de l’hindouisme pour se dépeindre en « destructeur des mondes » lors de la hideuse formation du premier champignon atomique, le 16 juillet 1945. Oppenheimer qui passera une partie de sa carrière à lutter futilement contre la prolifération nucléaire et la course à l’armement. L’histoire ne manque pas de ces cruelles leçons. Par la grâce de son intelligence supérieure, l’humain a libéré une force qu’il ne contrôle pas.

Rendons à Joshua Bengio l’intelligence et l’humilité de reconnaître qu’il y a un problème de politique publique que les chercheurs ne pourront régler par eux-mêmes. En entrevue à la BBC, le fondateur de Mila se disait en perte de repères et éprouvé sur le plan personnel par la direction que prend l’IA. À sa décharge, personne ne pouvait prévoir que le génie sortirait de la lampe avec une telle vélocité. Il a fallu dix ans à Netflix pour atteindre la barre mythique de 100 millions d’usagers, environ quatre ans et demi pour Facebook et deux ans et demi pour Instagram. Pour ChatGPT ? Ce fut l’affaire de deux mois.

Lors de la récente édition de C2 à Montréal, Joshua Bengio s’est entretenu avec Yuval Noah Harari, l’auteur du best-seller Sapiens. Vulgarisateur hors du commun, M. Harari y est allé d’une métaphore percutante. L’évolution de l’IA, c’est comme si nous étions passés de l’amibe au tyrannosaure en quelques années dans l’évolution des espèces. L’humanité a de prodigieuses facultés d’adaptation, a-t-il dit, mais elle a besoin de quelques générations pour y parvenir. Les premières révolutions industrielles se mesuraient en siècles, celle de l’IA est une affaire de mois. Et elle n’a rien de comparable avec les précédentes. C’est Harari, encore, qui fait remarquer qu’aucune avancée technologique avant l’IA n’avait le pouvoir de prendre des décisions autonomes et de générer des idées par elle-même.

Ce n’est pas l’IA comme telle qui pose problème, mais l’usage qui en sera fait par des humains mal intentionnés. La désinformation, la propagande, le remplacement d’emplois par milliers font partie des risques immédiats. Lutter contre les biais et le potentiel discriminatoire des outils d’IA est une tâche urgente à laquelle les développeurs doivent s’atteler rapidement. L’éthique dans la recherche devrait précéder la réglementation, car celle-ci sera inégale et imparfaite.

Certains pays, dont ceux de l’Union européenne (UE) et le Canada (avec le projet de loi C-27), sont à l’avant-scène des efforts pour encadrer l’IA. C’est du côté des régimes autoritaires et despotiques et des acteurs non étatiques mal intentionnés qu’il faut craindre le pire… Et dans les démocraties où s’invitent des marchands de mensonges dans le débat politique.

Entre ces mains malveillantes, l’IA a le potentiel de remplacer la démocratie par la démagogie. La première ligne de défense passe donc par le renforcement et l’expansion du carré démocratique partout dans le monde, ce qui ne sera pas une mince affaire. Les Altman, Hassabis et Amodei qui appellent les États-Unis à réglementer l’IA sont issus d’un courant de pensée qui a tenu l’État à distance de la révolution numérique depuis 30 ans au nom de la neutralité d’Internet, un principe confirmé récemment par la Cour suprême américaine. Ainsi, encadrer l’IA demandera un changement de paradigme au sein des démocraties, menacées dans leurs fondements tant par l’IA que par la philosophie du non-interventionnisme dans l’économie numérique.