SUPER INTELLIGENCE

Pour le philosophe Nick Bostrom, les performances des machines surpasseront celles des hommes. Les conséquences pourraient être dramatiques pour l’emploi. Destin funeste ? Pas forcément, explique le professeur d’Oxford. Si nous nous préparons à cette révo

L’intelligence générale artificielle pourrait être un substitut de l’intelligence humaine. Non seulement les esprits digitaux réaliseraient le travail intellectuel que font aujourd’hui les humains mais, une fois équipés de bons actionneurs ou de robots, ces machines pourraient aussi se substituer à nous pour le travail physique. Supposons que des travailleurs-machines (qui peuvent être reproduits rapidement) deviennent à la fois bien moins chers et bien plus efficaces que tout travailleur humain dans à peu près tous les jobs. Que se passerait-il ? Avec une main-d’oeuvre copiable et peu chère, les salaires s’effondreraient. Là où les humains resteraient compétitifs, les consommateurs préféreraient fondamentalement que ce soit eux qui fassent le travail. Aujourd’hui, les biens de consommation qui sont faits à la main ou produits par la population locale sont plus chers. À l’avenir, les consommateurs pourraient préférer les biens manufacturés, les athlètes humains, les artistes humains, les amants humains et les dirigeants humains à des équivalents fonctionnellement impossibles à distinguer ou plus efficaces. Mais nous ne savons pas vraiment si ces préférences seraient répandues. Si ce que produisent les machines était vraiment supérieur, peut-être accepterait-on de les payer plus cher. […]

Qu’est-ce qui est en jeu ? Si le travail peu coûteux d’une machine devait remplacer le travail humain, les emplois pour les êtres humains disparaîtraient. La peur de l’automatisation du travail et de la perte d’emplois n’est évidemment pas nouvelle ; elle s’est exprimée périodiquement, depuis la révolution industrielle, et un bon nombre de professions ont en fait suivi le chemin des tisserands et des artisans du textile qui, au début du XIXe siècle, s’unirent derrière le folklorique « General Ludd » pour lutter contre l’introduction des métiers à tisser mécaniques. Néanmoins, bien que les machines et les techniques aient remplacé l’homme pour des travaux

physiques particuliers, la technologie est plutôt venue en complément du travail humain. Les salaires moyens dans le monde ont eu tendance, sur le long terme, à augmenter, en grande partie grâce à cette complémentarité. Évidemment, ce qui se présente d’abord comme un complément peut devenir ensuite un substitut du travail. Les chevaux, initialement, étaient complétés par des carrioles et des charrues, qui augmentaient beaucoup leur productivité ; plus tard, on remplaça les chevaux par des automobiles et des tracteurs, innovations qui réduisirent la demande de chevaux de trait, ce qui mena à un effondrement de leur population. Un destin si funeste attend-il le genre humain ? La métaphore avec ce qu’il advint des chevaux invite à se demander pourquoi il y a encore des chevaux autour de nous. C’est qu’il existe encore des niches dans lesquelles les chevaux présentent un avantage fonctionnel, par exemple le travail de la police. Mais la principale raison, c’est que les êtres humains en sont venus à avoir une préférence particulière pour les services rendus par un cheval, comme l’équitation de loisir ou la chasse à courre. Cette préférence peut être comparée à celle que certains humains auront à l’avenir pour certains biens et services réalisés par la main humaine. Cette analogie, aussi suggestive soit-elle, est en réalité infondée, puisqu’il n’existe pas encore de substituts fonctionnels des chevaux : s’il existait des dispositifs pas trop chers qui puissent courir et sauter des haies et qui aient la même forme, la même odeur, la même douceur au toucher et qui se comportent comme des chevaux vivants (et qui aient peut-être la même expérience consciente), alors la demande de chevaux biologiques déclinerait probablement encore. Si l’offre de travail pour les êtres humains se réduisait suffisamment, les salaires tomberaient en dessous du seuil de subsistance. Les effets négatifs pour les travailleurs humains deviendraient très graves : non seulement des diminutions de salaires, des rétrogradations ou des réorientations, mais aussi la famine et la mort. Quand les chevaux sont devenus obsolètes comme source de déplacement, beaucoup furent vendus aux abattoirs pour être transformés en nourriture pour chiens, en engrais, en cuir, en colle. Ces animaux ne pouvaient trouver aucun autre emploi qui leur aurait permis de gagner leur pitance. Aux ÉtatsUnis, il y avait en 1915 environ 26 millions de chevaux ; au début des années 1950, il n’en restait plus que 2 millions. […]

Les salaires pourraient tomber sous le seuil de subsistance

Il est possible que le travail permette encore de devenir riche, même après la transition, quand les machines seraient fonctionnellement supérieures aux hommes dans tous les domaines (et moins coûteuses que le salaire humain de subsistance). Comme nous l’avons déjà dit, cela pourrait résulter de niches dans lesquelles le travail par l’homme serait préféré pour des raisons esthétiques, idéologiques, éthiques, religieuses ou pour toute autre raison non pratique. Dans un monde où la richesse de ceux qui détiennent le capital aurait tellement augmenté, l’attrait pour ce genre de travail augmenterait d’autant. Les nouveaux multimilliardaires auraient les moyens de payer des sommes inimaginables pour que leurs biens et services résultent d’un « commerce équitable » avec la force de travail organique. On peut revenir ici à l’histoire des chevaux : après être tombée à 2 millions au début des années 1950, la population des chevaux aux ÉtatsUnis s’est constamment redressée ; un recensement récent en a compté un peu moins de 10 millions. Et cette croissance n’est pas due à de nouveaux besoins en matière d’agriculture ou de transport : en fait, la croissance économique a permis à plus d’Américains de satisfaire leur goût pour les plaisirs équestres. Il existe encore une autre différence entre les chevaux et les hommes, en dehors de la propriété d’un capital : les êtres humains sont aptes à la mobilisation politique. Un gouvernement humain pourrait recourir à son pouvoir de taxation pour redistribuer les bénéfices privés, il pourrait augmenter les revenus en vendant les actifs nationaux, comme les terrains publics, ou mettre la population à la retraite. Là encore, à cause d’une croissance économique énorme pendant et après la transition, on bénéficierait d’une richesse nettement supérieure, ce qui permettrait de nourrir assez facilement tous les citoyens au chômage. Il devrait même être possible qu’un seul pays donne à chaque citoyen du monde un salaire généreux pour un coût qui ne dépasserait pas de beaucoup ce que de nombreux pays dépensent aujourd’hui pour l’aide internationale. […]

Considérons maintenant le sort de la machine travailleuse, qu’elle soit un esclave ou un agent libre. Nous commencerons par les émulations, le cas le plus facile à imaginer. Amener au monde du travail un nouvel être humain biologique prend entre quinze et trente ans, selon l’expertise et l’expérience requises. Pendant cette période, il faut nourrir cette personne, la loger, la cultiver et l’éduquer… et cela coûte cher. En revanche, engendrer une nouvelle copie de travailleur digital est facile, il suffit de télécharger un nouveau programme dans une mémoire de travail. La vie devient moins chère… Une entreprise peut adapter continuellement sa force de travail pour satisfaire les demandes de production de nouvelles copies, et cesser de produire des copies dont on n’a plus besoin pour libérer des ressources informatiques. […]

Les fluctuations de la demande ne sont que l’une des raisons pour lesquelles les employeurs ou les propriétaires d’émulations pourraient vouloir se débarrasser fréquemment de

leurs travailleurs, ou les éteindre. Si un esprit émulé, comme l’esprit biologique, a besoin de repos ou de sommeil pour fonctionner, il pourrait être profitable d’effacer les émulations fatiguées chaque soir et de les remplacer par une émulation fraîche et dispose. Puisque cette procédure entraînerait une amnésie rétrograde de ce qui a été appris dans la journée, les émulations réalisant une longue série de processus cognitifs seraient à l’abri de cet effacement fréquent. Il serait par exemple difficile d’écrire un livre si, chaque matin lorsqu’on se lève et se met au travail, il ne reste aucune trace de ce qu’on a écrit la veille. Mais d’autres tâches pourraient parfaitement être accomplies par des agents fréquemment recyclés : un agent vendeur ou responsable de clientèle, une fois formé, pourrait n’avoir besoin de se souvenir que des vingt dernières minutes. Puisque le recyclage d’émulations empêcherait la formation de souvenirs ou d’aptitudes, certaines émulations pourraient être soumises à un parcours d’apprentissage spécial au cours duquel elles marcheraient en continu, y compris en se reposant et en dormant, même pour des tâches qui ne requièrent strictement aucun processus d’exécution cognitive long. Par exemple, un responsable de clientèle agent pourrait fonctionner pendant plusieurs années dans un contexte d’apprentissage optimisé, assisté par des entraîneurs et des évaluateurs. Les meilleurs stagiaires seraient utilisés comme reproducteurs et serviraient de modèles à partir desquels des millions de copies toutes fraîches seraient produites chaque jour. On ferait beaucoup d’effort pour améliorer la performance de ces travailleurs-modèles, parce que même une

légère augmentation de productivité obtenue sur des millions de copies rapporterait beaucoup sur le plan économique. En parallèle de ces efforts pour entraîner ces travailleurs-modèles à faire des tâches particulières, il faudrait aussi des efforts intenses pour améliorer la technologie de l’émulation. Des progrès dans ce domaine seraient encore plus profitables que les améliorations des travailleurs-modèles, puisque des avancé es technologiques générale spourraients’ appliquer à toutes les émulations au travail (et même aux émulations qui ne travailleraient pas) et pas uniquement à celles qui réalisent un certain type de tâche. On consacrerait des sommes considérables à découvrir des raccourcis computationnels permettant l’implantation plus efficace des émulations

Il faudrait aussi des efforts intenses pour améliorer la technologie de l’émulation

existantes et pour développer des architectures d’IA neuromorphiques et totalement synthétiques. Cette recherche serait sans doute en grande partie réalisée par des émulations fonctionnant sur un hardware très rapide. Selon le prix de la puissance informatique, des millions, des milliards ou des milliers de milliards d’émulations des esprits humains les plus vifs en matière de recherche (ou de versions augmentées de ceux-ci) travailleraient nuit et jour pour repousser les limites de l’intelligence artificielle ; et certaines pourraient travailler à des vitesses bien supérieures à celle des cerveaux humains. C’est une bonne raison de penser que l’ère des émulations d’humains sera brève (un moment très bref dans le temps sidéral) et qu’elle sera vite remplacée par l’ère d’une intelligence artificielle très supérieure. Nick Bostrom, Dunod, 464 p., 28 € (à paraître).