AGI, LE GRAAL DE L’IA? C’EST QUOI? EN EST-ON PROCHE?
L’enjeu, pour les mois qui viennent, est de définir une AGI, ou « intelligence artificielle générale ». Et ce n’est pas toujours si simple car, même au sein de la communauté scientifique, il n’y a pas une définition unanime et standard.
Pour simplifier, une AGI est une IA capable de faire tout ce qu’un humain peut faire, comme résoudre des problèmes, apprendre de ses erreurs, et s’adapter à de nouvelles situations inattendues. C’est le summum de l’IA, le but de la recherche qui vise à sortir les IA des rôles prédéterminés qu’elles ont actuellement pour leur donner une liberté d’action quasi infinie. Les AGI seront bel et bien très différentes des IA dites faibles ou étroites actuelles, qui se concentrent sur un domaine d’activité bien déterminé.
Penser comme un humain, avec une puissance colossale
Pour l’heure, les AGI comme on les entend n’existent que dans les films de science-fiction. Ces IA pourront faire ce qu’un humain sait faire, et même plus encore puisque les AGI combineront la capacité à raisonner avec une puissance de calcul informatique colossale… des capacités intellectuelles similaires à celles des hommes, avec un avantage en prime : l’accès instantané à tout le savoir connu sur tous les problèmes. Pour expliquer en quoi les AGI pourraient être supérieures aux hommes, un chercheur a eu cet exemple assez édifiant. Imaginez que vous êtes malade. Vous prenez rendez-vous avec un spécialiste, ce qui peut prendre pas mal de temps puisque ces spécialistes sont assez peu nombreux par définition. De plus, étant très sollicités, ils doivent voir beaucoup de patients par jour et n’ont que quelques minutes à accorder à chacun. Par conséquent, ils ont peu de temps pour se faire une idée du problème. Et, puisque ce médecin n’est qu’un humain, il peut lui manquer des éléments pour poser un diagnostic fiable rapidement. Une AGI aurait l’avantage de pouvoir être accessible plus vite, et surtout d’avoir accès immédiatement à l’ensemble de la connaissance sur le problème du patient, tout de suite. Cette capacité à accéder en temps réel à d’énormes quantités d’informations et à les traiter tout aussi rapidement les rendrait de facto supérieures à un humain.
Plusieurs domaines où l’AGI serait précieuse
Cette technologie prometteuse devrait donc permettre de résoudre des problèmes complexes, de procéder à des avancées technologiques bien plus vite. Les AGI seraient d’une aide précieuse dans la médecine pour la pose de diagnostics et pour la recherche sur les médicaments, et pourraient même opérer par elles-mêmes. De même, dans des domaines comme la finance, elles pourraient là encore analyser de grosses quantités de données pour calculer des risques, faire des prédictions sur l’évolution des marchés, permettant des décisions plus claires. Enfin, on en revient vite à la SF, les AGI seront sans doute d’un grand secours dans l’exploration spatiale que l’humanité s’apprête à reprendre, en gérant des systèmes autonomes d’exploration et de recherche par exemple, ou en réunissant et en analysant des données d’observation. Enfin, les AGI pourraient avoir des rôles plus terrifiants, dans des domaines comme la défense (ajustement des stratégies de champ de bataille en temps réel) ou la surveillance policière de zones, de villes. Et idéalement, les AGI auraient le potentiel d’aider l’humanité à résoudre des problèmes à grande échelle, comme le changement climatique.
Plusieurs embûches
Mais avant d’en arriver là, il reste à surmonter plusieurs grosses embûches. Les deux problèmes principaux sont les limitations hardware et le manque de diversité dans les données. Pour le moment, les besoins en ressources hardware pour faire fonctionner les IA actuelles sont déjà énormes. Pour y pallier, l’industrie ne cesse d’innover en sortant régulièrement des GPU, des TPU de plus en plus performants. Malgré tout, il faut encore des mois pour entraîner un modèle. Pour aller plus vite, entraîner plus et mieux, il faudra encore améliorer le hardware et trouver les ressources énergétiques nécessaires pour l’alimenter. Le manque de diversité dans les données d’entraînement quant à lui découle du fait que la plupart de ce dont on se sert pour entraîner une IA est très “occidentalisé”, ce qui peut limiter la compréhension des problèmes par les IA. Il faudra donc que les modèles aient accès à des données bien plus représentatives des diversités culturelles de la planète.
Plusieurs domaines doivent encore s’améliorer
Quoi qu’il en soit, développer une AGI nécessite des progrès dans certains domaines particuliers. Il faudra améliorer les algorithmes de machine learning. Les modèles actuels comme GPT4 ont fait des progrès considérables, mais restent très limités à des tâches bien spécifiques et manquent de capacité d’adaptation. Il faut donc développer des algorithmes capables d’apprendre de multiples tâches simultanément. Il faudra également améliorer encore les réseaux neuronaux et leurs architectures pour les rendre plus efficaces. Les réseaux récurrents, les réseaux auto-encodeurs, et les réseaux transformeurs ou les réseaux antagonistes ont porté le gros des évolutions récentes dans l’IA, mais il faudra sans doute encore les améliorer pour progresser vers les AGI.
Bon sens, transfert de savoirs, apprentissage autonome...
Il faudra également donner à une intelligence artificielle la capacité de transférer les savoirs, c’est-à-dire d’appliquer un savoir associé à un contexte à un autre contexte différent. C’est un des piliers de l’AGI puisque c’est cette capacité à transférer les savoirs qui mime le mieux les modes de raisonnement humains lorsqu’il s’agit de résoudre un problème nouveau. De même, il faudra que les IA soient capables de faire preuve de bon sens, ce savoir du quotidien que les humains acquièrent de manière empirique et finissent par prendre pour une évidence. Les IA actuelles n’en sont pas capables, ce qui limite grandement leurs capacités.
Plus important encore, il faudra que les IA passent à l’apprentissage renforcé, c’est-àdire l’apprentissage découlant de décisions prises pour résoudre un problème. C’est particulièrement important pour développer une AGI puisque c’est ce point précis qui fera que l’IA sera capable d’apprendre de ses erreurs afin de ne pas répéter l’erreur, et d’améliorer ses performances. Les AGI seront capables d’apprendre seules, et de s’améliorer de manière autonome. Ce qui nous amène au dernier point à développer qui est l’apprentissage non supervisé. La plupart des apprentissages actuels sont supervisés, et nécessitent de très gros ensembles de données “étiquetées”. L’humain à l’inverse apprend plutôt de manière non supervisée et est capable d’attribuer telle ou telle donnée à une ou plusieurs catégories, le tout par l’observation et l’interaction.
Et au bout du compte, il faudra que les humains puissent comprendre les décisions prises par des systèmes d’IA toujours plus performants. Il est donc crucial que les AGI sachent prendre des décisions, mais également les expliciter en termes clairs à des humains… moins performants.
En est-on proche ?
Toute la question est de savoir si on est proche de l’AGI ou non. La plainte d’Elon Musk envers OpenAI va devoir affiner la définition de l’AGI, en expliquant principalement à partir de quel moment de raisonnement et d’autonomie on va considérer qu’une IA est générale.
Jusque-là, la plupart des experts prévoyaient que ce niveau d’IA serait atteint entre 2030 et 2060, mais l’IA est un domaine qui ne cesse de nous époustoufler par sa vitesse de progression et il n’est pas à exclure que la course à l’armement que se livrent des pointures comme Google et OpenAI soit un accélérateur colossal. Et certains affirment que les derniers projets d’OpenAI sont les premières briques d’une AGI qui pourrait arriver très vite.
Tous les experts se rejoignent sur un point: se précipiter sans prendre le temps d’envisager les conséquences éthiques et humaines d’une AGI ferait courir à l’humanité des risques terribles. Quelques savants de pointe comme Stephen Hawkins ont mis en garde sur le potentiel non canalisé des AGI, et du phénomène de singularité qui verrait l’IA dépasser l’humain, acquérir une conscience et prendre le pas sur un humain plus limité à tous les niveaux. Ces chercheurs n’ont cependant jamais demandé que les recherches soient arrêtées, mais insistent sur le besoin de cadrage, de gardefous pour que les IA de demain soient des accélérateurs de progrès humain, et non les précurseurs de Skynet.