L’intelligence artificielle menacerait l’humanité, selon un expert
AGENCE QMI | Les progrès rapides réalisés dans le domaine de l’intelligence artificielle et surtout son manque de réglementation inquiètent un expert dans le domaine qui met en garde contre toute l’incertitude autour de cette technologie.
Le fondateur et directeur scientifique de l’Institut québécois d’intelligence artificielle craint notamment que l’IA ne puisse créer des armes biologiques une fois qu’elle pourra agir à travers des robots.
« Imaginez une pandémie à la puissance 10 avec des virus qui ont été créés par l’intelligence artificielle pour être très virulents et contagieux, ça pourrait mettre à terre l’humanité », a illustré Yoshua Bengio en entrevue à LCN, hier.
Selon lui, il n’existe pas encore assez de règles qui permettraient de contenir une intelligence artificielle qui pourrait se retourner contre les humains à l’avenir.
« Il y a beaucoup d’incertitude, les chercheurs sont en désaccord sur les scénarios possibles. Étant donné l’ampleur du dégât possible, il faut s’en occuper et s’assurer qu’on ne se rend pas jusque-là », a-t-il dit.
UN GRIZZLY DIFFICILE À CONTENIR
Pour mieux comprendre ses craintes, il a comparé l’entraînement de l’intelligence artificielle à celui d’un animal que l’on essaye d’éduquer en lui donnant des récompenses.
« Si c’est un animal plus puissant que vous [que vous entraînez] comme un grizzly, vous aimeriez être sûrs que ça va bien se passer », a expliqué M. Bengio.
« Les compagnies essayent de mettre des protections, on peut voir ça comme la cage du grizzly, mais aujourd’hui on ne sait pas construire une cage qui est vraiment sécuritaire », a-t-il ajouté.
Il espère ainsi une meilleure coopération internationale et un financement de la recherche pour prévenir un avenir aussi funeste.