Les Grands Dossiers de Diplomatie
Quelle place pour les robots dans les conflits futurs ?
Les robots semblent envahir l’univers militaire et la peur de guerres menées par robots intelligents interposés se fait de plus en plus présente. S’il ne faut pas sous-estimer les risques que ces machines représentent, il faut toutefois se garder d’en faire des « acteurs » des conflits futurs.
La perspective de guerres aux engagements limités, aux victoires rapides, marginalisant le champ de bataille traditionnel, conduites avec des armements suffisamment élaborés pour mener des frappes chirurgicales en diminuant les risques de blessures et de morts, voire en envisageant la possibilité de supprimer le risque létal, a fortement impacté les esprits et contribué au développement de systèmes d’armes de plus en plus sophistiqués.
Dans ce cadre général, la robotique associée à l’intelligence artificielle semble ouvrir le champ des possibles à des conflits menés par des robots. Entre mythe et réalité, la robotique militaire trace son chemin en profitant du temps perdu dans des débats sans fin et du manque d’honnêteté des États.
De là à envisager les robots comme des acteurs des conflits à venir, il n’est qu’un pas aisé à franchir mais qui nécessite une réflexion préalable.
Un rapide état des lieux
Les robots militaires sont une réalité. L’affirmation peut sembler triviale, mais elle est importante pour comprendre que le débat n’est pas de savoir s’il est légal/illégal ou moral/immoral d’employer des machines sur les théâtres d’opérations, ou même s’il faut les redouter ou se réjouir de leur prolifération. Ces questions ont été savamment éludées par des gouvernements bien plus intéressés par les débouchés économiques ou les avantages politiques que représente la robotique militaire, que par les interrogations philosophiques ou juridiques qu’elle suscite fort légitimement (1).
En tout état de cause, si les robots militaires investissent les conflits, il est impossible de quantifier précisément leur présence. L’absence de données de certains pays ou encore la difficulté à circonscrire avec précision ce que le terme « robot » recouvre comme réalité, interdit de présenter un inventaire
fiable. Cela étant dit, certains chiffres permettent de se faire une idée de l’importance croissante de ces nouvelles technologies. Tout d’abord, il convient de ne pas perdre de vue que la robotique militaire s’inscrit dans un champ bien plus vaste d’enjeux interconnectés. Les intérêts économiques liés à la recherche, au développement, à la fabrication et à la commercialisation de robots, sont colossaux et les perspectives plus que prometteuses, et ce, bien au-delà du champ militaire. Le secteur de la robotique industrielle a connu un accroissement de 21 % des ventes depuis 2016 avec un marché représentant 16,2 milliards de dollars américains (USD) en 2017 et des prévisions de 14 % par an pour les trois ans à venir, et celui des robots de service une augmentation de 39 % (2). Le marché de la robotique militaire, qui représentait pour sa part 3,2 milliards d’USD par an en 2014, atteindra 10,2 milliards en 2021 (3). On comprend aisément que derrière ces chiffres se terre une réalité politico-économique qui dépasse de loin les considérations plus absconses sur la moralité de ces nouveaux systèmes d’armes. Pourtant, en la matière, les inquiétudes sont nombreuses. Une lettre ouverte mettant en garde contre le développement d’armes autonomes et appelant à leur interdiction – « Autonomous Weapons: an Open Letter from AI and robotics researchers » –, a été publiée le 28 juillet 2015 par le Future of Life Institute et signée par près de 26 000 personnes, dont 4000 chercheurs en intelligence artificielle et en robotique. De leur côté, les Nations Unies, à la suite de la publication d’un rapport de Human Rights Watch – Losing Humanity: The Case Against Killer Robots (19 novembre 2012) –, se sont emparées du sujet pour tenter de réguler, si ce n’est d’interdire, le développement et l’utilisation des Systèmes d’armes létales autonomes (SALA). Dans ce cadre, les discussions conduites au travers de la Convention sur certaines armes classiques (CCW) avancent à pas feutrés. Lors de la réunion d’avril 2018, une majorité des 85 États présents s’est accordée à souligner la nécessité de maintenir un contrôle humain en matière de recours à la force, mais seuls 26 ont soutenu l’idée d’une interdiction totale des SALA, tandis que le Royaume-Uni, Israël, les États-Unis ou encore la France, qui ne veulent pas se priver de contrats colossaux et d’emplois potentiels, refusent de se contraindre juridiquement.
L’intérêt des États n’est donc pas de limiter, ni d’interdire, le développement des robots militaires. D’autant qu’au-delà des considérations financières, des éléments sociologiques et historiques viennent renforcer ce tropisme technologique. L’approche technocentrée de la guerre n’est pas nouvelle et les évolutions technico-technologiques sont consubstantielles de l’évolution de la guerre. Si le développement technique des armements répond à des besoins spécifiques il a, en retour, impacté la conduite de la guerre et la pensée polémologique. C’est ce qu’ont souligné les travaux sur les guerres « de quatrième
Le marché de la robotique militaire, qui représentait pour sa part 3,2 milliards d’USD par an en 2014, atteindra 10,2 milliards en 2021.
génération » ou encore sur la « révolution dans les affaires militaires ». Contrairement à ce que pensent les tenants d’une approche instrumentale de la technologie postulant sa neutralité vis-à-vis des fins auxquelles elle est assignée, celle-ci est clairement structurante culturellement en produisant de nouvelles perceptions, idées et normes (4).
La robotisation du champ de bataille est, quoi qu’en disent ses détracteurs, un phénomène irrévocable. Tout au plus sera-t-il possible d’en limiter la portée et l’impact. Mais il est utopique d’envisager une interdiction de ces systèmes. D’autant, que les perspectives offertes en matière d’autonomie par l’intelligence artificielle (IA) sont pour le moins alléchantes.
Vers des systèmes d’armes létaux autonomes
Pour certains observateurs, notamment les organisations non gouvernementales telle qu’Amnesty International, les « robots tueurs » ne relèvent plus du domaine de la science-fiction. Pour d’autres, à l’instar du Secrétariat général de la défense et de la sécurité nationale (SGDSN) dans son rapport Chocs futurs d’avril 2017, il faudra attendre encore 20 à 30 ans pour voir apparaître des armes totalement autonomes (p. 188). En tout état de cause, le débat semble bloqué sur la définition de l’autonomie et sur des positions trop souvent polarisées autour d’idéologies ou/et d’analyses étroites.
Pendant ce temps, une quarantaine de pays (5) s’est déjà engouffrée dans la course aux armes autonomes. Les ÉtatsUnis, la Chine et l’Inde font aujourd’hui la course en tête en matière d’IA. La Chine a d’ailleurs clairement affiché son ambition de monter sur la première marche du podium et annonçait en juillet 2017 un plan visant à faire passer son poids de 22,1 à 59 milliards d’USD en 2025. Les Russes ne sont pas en reste puisqu’en 2015, l’Advanced Research Foundation dévoilait un cyborg capable de conduire un quad et de tirer à l’arme de poing. L’année suivante, la Russie publiait une vidéo montrant une gamme de robots militaires terrestres et aériens dont certains auraient été supposément employés en Syrie. Du côté américain, le Pentagone est prêt à investir un milliard de dollars dans une gamme de robots qui viendront en appui des troupes
au sol. D’ici à 2023, il devrait y avoir des robots dans toutes les unités des forces terrestres américaines (6). Dans le même temps, la célèbre DARPA (Defense Advanced Research Projects Agency) annonçait que le Département de la Défense était sur le point d’allouer 2 milliards d’USD au développement de la prochaine génération d’IA qui équipera ses futurs systèmes de combat.
La course est donc bel et bien engagée et les armes autonomes sont sur le point d’investir les théâtres de guerres. Tout comme ce fut le cas pour les drones, les industriels, comme les politiques, comptent sur une lente acculturation des populations à la robotique civile pour avancer leur prochain pion sur l’échiquier militaire.
En parallèle, de nombreux travaux sont conduits dans le domaine de l’IA. Qu’il s’agisse des travaux visant à cartographier le cerveau humain ( brain mapping), pour pouvoir le reproduire, ou encore des recherches sur le transfert de conscience ( Mind Transfer/Uploading) du cerveau humain vers la machine, la communauté scientifique s’active à grands renforts de financements gouvernementaux et privés. Nul doute que les résultats obtenus à terme trouveront une application dans le domaine militaire. L’IA progresse donc, et l’inquiétude que suscite « le développement d’une intelligence artificielle complète [qui] pourrait marquer la fin de l’humanité » (7), ainsi que l’énonçait le scientifique Stephen Hawking, se renforce. L’affirmation peut faire sourire de prime abord, mais ce serait une erreur de la prendre à la légère. L’humain pourrait rapidement se voir supplanté par ces mêmes machines qu’il aura créées et prétendu contrôler, comme le démontre ALPHA, une IA capable de battre systématiquement un expert du pilotage de l’US Air Force en combat aérien (8).
Au-delà du développement des robots de combat, il faut prendre en compte une autre tendance lourde bien que moins médiatisée : l’amélioration de l’humain ( human enhancement). À la peur de futures guerres conduites par des Terminators vient s’ajouter celle de voir apparaître des Robocops (9). La volonté de renforcer les capacités, notamment physiques, des soldats sur le terrain a conduit notamment à l’apparition de systèmes très sophistiqués de prothèses et d’exosquelettes tels que le XOS 2 de Raytheon Sarcos.
Bien que le complexe militaro-politico-industriel voie dans le développement des SALA la promesse de revenus confortables, certains experts s’inquiètent cependant des conséquences économiques négatives du mariage entre robotique et IA. C’est notamment ce qui ressortait des discussions menées lors du Forum économique mondial de Davos en janvier 2017, où les
Tout comme ce fut le cas pour les drones, les industriels, comme les politiques, comptent sur une lente acculturation des populations à la robotique civile pour avancer leur prochain pion sur l’échiquier militaire.
risques pour l’emploi ou pour les grands équilibres sociétaux ont d’ailleurs été soulignés.
D’autre part, les risques inhérents à la course aux SALA et à leur prolifération sont grands et ne doivent pas être sous-estimés car, outre les États, certains groupes terroristes, qui utilisent déjà des robots de combat, chercheront à s’équiper avec ces nouveaux systèmes.
Les robots : « acteurs » des conflits futurs ?
Les robots sont donc largement présents sur les théâtres de conflits contemporains, et il est certain que cette présence va s’accentuer. Pour le SGDSN, il ne fait d’ailleurs aucun doute qu’« en 2030, les robots et systèmes autonomes seront devenus des acteurs ordinaires dans le domaine des opérations militaires » ( Chocs futurs p. 187).
Si le débat semble se concentrer sur la capacité que pourraient avoir à terme des systèmes de combat autonomes de décider de délivrer de l’armement sur une cible humaine, la question bien plus existentielle de S. Hawking ne paraît pas vraiment préoccuper grand monde.
Certes, pour le moment, les robots restent largement sous contrôle humain et ne peuvent prendre de décision majeure de manière autonome. Certes, leur capacité à déterminer un objectif et à le traiter, en particulier lorsqu’il s’agit d’êtres humains, reste de la responsabilité d’opérateurs humains. Pour autant, la perspective, même à très long terme, de voir apparaître des « robots tueurs » ne peut être balayée d’un revers de main. Les robots et l’IA sont désormais une réalité tangible. En l’occurrence, la question de la responsabilité est fondamentale dans l’attribution ou non du statut d’acteur aux robots militaires (10). Elle l’est tant sur le plan éthique que sur le plan juridique. En cas de commission d’un acte délictueux, la détermination des responsabilités est un critère fondamental dans la définition de la peine encourue. Pour l’heure, cette responsabilité échoit à des êtres humains qui sont de fait justiciables et condamnables.
Envisager les robots comme des acteurs à part entière des conflits à venir revient à leur conférer un statut équivalent à
celui de l’être humain. Le simple fait de se poser la question illustre parfaitement l’acculturation progressive à la présence de ces systèmes dans notre environnement. Cependant, en l’état actuel des choses, les robots militaires ne peuvent être formellement considérés comme des « acteurs ». Cela n’empêche nullement de se projeter et d’imaginer qu’une fois dotés d’un degré d’intelligence artificielle leur conférant des capacités intellectuelles et cognitives équivalentes aux humains, les robots deviendront des acteurs des conflits.
La tendance est, cependant, plus au développement d’équipes humains/robots, qu’au déploiement exclusif de machines (11). Ces duos hommes/machines pourront prendre la forme d’unités dans lesquelles seront intégrés des robots pouvant accompagner,
Envisager les robots comme des acteurs à part entière des conflits à venir revient à leur conférer un statut équivalent à celui de l’être humain.
aider ou protéger les militaires. Ils pourront aussi, comme c’est déjà le cas, être composés d’opérateurs humains déportés contrôlant des robots déployés, éventuellement en essaims, sur le théâtre d’opérations.
Il faut toutefois garder à l’esprit qu’en général, l’idée que les militaires soient à terme remplacés par des machines n’est pas toujours reçue de manière positive. Si la perspective de la perte d’emplois reste un frein à une telle substitution, la dimension idéelle du métier des armes induit une réticence culturelle à s’extraire d’une vision traditionnellement héroïque de ce métier et à se projeter vers un modèle « post- » ou « an- » héroïque (12). S’il est indiscutable que les robots prennent une place croissante dans les conflits modernes, en déduire qu’ils en deviendront les « acteurs » dans le futur demeure hasardeux. L’avenir semble plutôt propice à la constitution de duos hommes-machines qu’à des conflits menés par robots interposés. Cependant, eu égard aux enjeux que représentent la robotique et l’IA, il est tout à fait légitime de s’inquiéter des conséquences possibles de cette présence grandissante de robots de plus en plus perfectionnés sur les théâtres d’opérations. En tout état de cause, les robots militaires ont un bel avenir devant eux. Les humains peut-être moins !