Il est temps de revoir l’évolution de l’IA et la conception des technologies
En 1939, le physicien de renommée mondiale Albert Einstein écrivait avec son collègue Leo Szilard une lettre au président Franklin Delano Roosevelt. Cette lettre, soigneusement rédigée à la machine à écrire, avertissait Roosevelt des dangers de la recherche sur la fission nucléaire. Son contenu, ainsi que la réponse du président, aujourd’hui accessibles sur Internet, nous rappellent le potentiel des avancées scientifiques et les conséquences imprévues qui en découlent.
Il est généralement admis que Roosevelt et d’autres chefs d’État n’ont pas tenu compte des avertissements d’Einstein. Les bombardements de Hiroshima et de Nagasaki en 1945 en furent les conséquences directes. Aujourd’hui encore, les armes nucléaires constituent pour les « superpuissances » la première menace de destruction planétaire et le premier moyen de dissuasion. En même temps, l’anticipation, l’application de moyens de protection et surtout les réglementations gouvernementales ont fait de la fission nucléaire une importante source d’énergie pour plusieurs pays qui n’ont pas facilement accès à d’autres formes d’énergie propre.
C’est la preuve qu’entre les mains de l’humanité, les avancées scientifiques et technologiques ne sont pas neutres. Bien que la science réponde à d’importantes questions concernant la nature des inventions, elle ne peut prédire toutes les possibilités associées à leurs applications technologiques ni la façon dont les sociétés s’en serviront et y réagiront. Les êtres humains dirigent et encadrent ces nouvelles technologies, et sont les premiers à en ressentir les répercussions.
Plus de 80 ans plus tard, nous nous trouvons dans une situation similaire et tout aussi potentiellement destructive. Avec l’avancée rapide de ses technologies, tant les avantages que les inconvénients de l’intelligence artificielle (IA) se font de plus en plus évidents. Encore une fois, la société est dépassée par le rythme effréné de l’avancée technologique. Elle ne peut même pas se protéger contre les dangers évidents de l’IA — perte d’emplois, manipulation d’information ou fraude — dans l’intérêt de partis nationaux ou internationaux. Même certains des premiers architectes et adeptes de l’IA, tant dans le milieu universitaire que dans la population générale, sonnent l’alarme.
Au Canada, Yoshua Bengio et Geoffrey Hinton, deux chercheurs éminents et leaders du domaine, ont publiquement dénoncé le développement rapide de l’IA, ainsi que son utilisation omniprésente, ses répercussions possibles sur la société et le manque de réglementation en la matière. Dans une lettre ouverte publiée en mars 2023, des leaders de la technologie déclarent que « les systèmes d’intelligence artificielle dont l’intelligence peut se mesurer à l’intelligence humaine posent de sérieux risques pour l’humanité et la société ».
Cette lettre a été signée par 1300 personnes, dont Yoshua Bengio. Dans la lettre, les chercheurs demandent aux développeurs de l’IA de travailler avec des responsables de l’élaboration de politiques pour accélérer considérablement le développement de systèmes de gouvernance robustes, notamment par le biais d’un financement public de la recherche sur la sécurité technique de l’IA et d’établissements ayant les ressources nécessaires pour composer avec les perturbations économiques et politiques dramatiques (en particulier pour la démocratie) causées par l’IA.
Comme l’a montré récemment le président américain, Joe Biden, en demandant à rencontrer les directeurs généraux des plus grandes firmes de technologies de l’IA des Amériques, les gouvernements sont eux aussi de plus en plus préoccupés.
Mais nous ne sommes plus en 1939 ni en 1945. Au cours des années, le développement des travaux de recherche internationaux a explosé dans toutes les disciplines. Cette croissance a particulièrement touché les domaines associés aux sciences humaines, et notamment les disciplines directement liées à la compréhension fondamentale du comportement et de la pensée humaine.
En 2012, un exercice de prévision de l’initiative Imaginer l’avenir du
Canada prédisait que les sciences humaines joueraient un rôle central dans la réponse aux répercussions des technologies émergentes et dans l’atténuation des problèmes mondiaux qui toucheront le Canada de façon importante au cours de la prochaine décennie. Avec le rythme de l’avancée technologique et, surtout, vu le développement rapide de l’IA et des technologies quantiques, nous en avons besoin plus que jamais. Nous devons aussi écouter et apprendre pour mieux conscientiser la société aux répercussions de la technologie et mieux en réglementer l’utilisation sûre et responsable. Il n’est pas trop tard.
Depuis quelques années, le principal organisme canadien de financement de la recherche en sciences humaines finance plusieurs projets qui peuvent nous informer à cet égard. Teresa Scassa, de l’Université d’Ottawa, qui étudie l’intelligence artificielle, le droit, la gouvernance des données, la confidentialité des données et l’aspect légal du moissonnage du Web, Eran Tal, de l’Université McGill, qui travaille sur les implications éthiques et sociales des mégadonnées et des algorithmes de l’apprentissage machine, et Benoit Dupont, de l’Université de Montréal, qui mène des recherches pour permettre aux entreprises et aux organismes parapublics de mieux contrer les cyberattaques grâce aux métriques de résilience : voilà autant de projets qui permettront de mieux encadrer l’usage de l’IA.
La science, la technologie et leurs modalités d’application doivent être perçues comme des processus complémentaires et intégrés. Cela veut dire que nous devons travailler ensemble dès l’avènement d’une nouvelle technologie afin d’assurer une intégration prudente des avancées scientifiques, des modalités de leur mise en oeuvre, de leurs conséquences probables ainsi que des éléments légaux et juridictionnels nécessaires. Nous devons canaliser toute l’énergie et la créativité de nos travaux de recherche, des sciences naturelles et de l’ingénierie aux sciences de la santé en passant par les sciences humaines. Notre présent et notre avenir en dépendent plus que jamais.