SERVITUDE VOLONTAIRE VOLUNTARY SERVITUDE

Du 10 au 17 février 1996, après avoir accepté le défi lancé par l’entreprise IBM, le champion du monde d’échecs de l’époque, Garry Kasparov, se confronte au supercalculateur Deep Blue dans un match disputé en 6 parties. L’enjeu est d’importance : la machine sera-t-elle capable de vaincre un esprit humain dans ce qui est considéré comme l’un des jeux les plus exigeants intellectuellement ? Le duel s’achève sur un score de 4 victoires à 2 pour Kasparov. L’honneur est sauf. Mais l’entreprise demande une revanche, laquelle aura lieu l’année suivante, du 3 au 11 mai 1997. Si le joueur russe remporte la première partie, la suite du duel tournera à l’avantage du nouveau supercalculateur, renommé pour l’occasion Deeper Blue. Un coup de tonnerre dont l’écho allait se propager bien au-delà du petit monde des échecs : une intelligence artificielle (IA) serait donc en mesure de tenir tête à l’un des plus brillants cerveaux humains. La victoire est néanmoins teintée de doutes. Kasparov accuse IBM d’avoir triché en dissimulant qu’une aide humaine – celle de Grands Maîtres – aurait accompagné et guidé les stratégies de l’ordinateur, réveillant en cela le souvenir du Turc mécanique, cet automate inventé au 18e siècle par le baron Wolfgang von Kempelen : une machine, à l’apparence anthropomorphe, quasiment imbattable aux échecs. Napoléon Ier en fera les frais, en 1809, dans une partie restée célèbre. L’empereur n’imaginait pas (et jamais il ne le sut) qu’à l’intérieur de l’automate se cachait un joueur chevronné, Johann Allgaier. Est-ce à dire que derrière toute machine se cache un humain ? Assurément.

Du 9 au 15 mars 2016, à Séoul, le programme informatique AlphaGo, fabriqué par l’entreprise britannique Deep Mind (rattachée à Google), est confronté au multiple champion du monde coréen de go, Lee Sedol. Depuis les matchs Kasparov/IBM, les IA joueuses d’échecs ont progressé au point qu’il est désormais impossible à un être humain de les battre. Mais le go représente un défi de plus grande ampleur, en tant que ce jeu, à une nécessaire profondeur stratégique, réclame de combiner des facultés intuitives bien plus difficiles à inculquer à une machine. Au soir du 15 mars 2016, l’espèce humaine semblait avoir à nouveau fait la démonstration de l’étrange masochisme qui l’anime, à si bien savoir créer une machine capable de la soumettre. Lee Sedol fut battu 4 victoires à 1, sans aucune suspicion de tricherie cette fois-ci. Et les capacités de calcul de l’IA ne seraient, selon certains, qu’au stade du babillement… Une étape vient néanmoins d’être franchie ces dernières années avec l’arrivée des IA génératives et leurs capacités à phagocyter, entre autres, le langage de leurs démiurges créateurs. Une version « upgradée » de Prométhée qui, si l’on en croit le mythe et ses déclinaisons littéraires et cinématographiques, promet une punition inéluctable.

RENDRE SERVICE AU MONDE

Le cinéma, enfant des révolutions industrielles, était destiné à trouver dans cet accouplement homme/machine matière féconde à donner naissance à maints récits et inventives images. Un rapide tour d’horizon des films ayant investi le sujet permet de constater un fort penchant dystopique adossé à un thème narratif récurrent qui pourrait se résumer ainsi : les hommes créent des machines, lesquelles sont comparables à des esclaves mis au service de leurs créateurs. Toujours plus perfectionnées et dites infaillibles, elles représenteraient, pour les « optimistes », l’inéluctable salut d’une espèce humaine aux capacités honteusement limitées, une menace existentielle pour les autres. Les machines prennent alors « conscience » de leur aliénation autant que du concomitant pouvoir qui leur a été accordé (avec, parfois, le sous-jacent désir de s’humaniser) et, fortes de ce constat, se rebellent. Ce sera la révolte d’un groupe dissident de « Répliquants » (1982) dans Blade Runner de Ridley Scott ou de « Hubots » dans la série Real Humans (2012-14), d’un système centralisé et rhizomatique provoquant une guerre vouée à éradiquer les humains dans les films de la franchise Terminator ou du I-Robot (2004) d’Alex Proyas, vaguement inspiré du roman éponyme d’Isaac Asimov. Ce sera le dysfonctionnement du HAL 9000, « cerveau et système nerveux » du vaisseau de 2001, l’Odyssée de l’espace (1968) de Stanley Kubrick, prêt à éliminer les astronautes qu’il accompagne dans un voyage interstellaire pour assurer son omnipotence et sa survie. L’ordinateur de WarGames (1983) de John Badham associe jeux de stratégie et stratégies militaires – les premiers participant de l’élaboration et du perfectionnement des secondes. Encore faut-il savoir les distinguer et différencier jeux et réalité, au risque de provoquer une guerre thermonucléaire globale. De ces quelques exemples, non exhaustifs mais canoniques, se dé

Stefan Baron, Henrik Widman. Real Humans. 2012-14. 2 saisons, 20 épisodes. (© Sveriges Television / Matador Film AB ; Ph. Johan Paulin)

gage une constante : plus l’être humain délègue responsabilité et pouvoir aux machines, plus il accroît son allégeance et se met à leur merci. Aussi inventifs et efficaces que soient ces scénarios, le véritable danger n’est sans doute pas à craindre d’un « soulèvement des machines » reposant sur le modèle de « créatures » échappant à leurs créateurs, mais d’une logique beaucoup plus insidieuse et larvée – suivant un principe de servitude volontaire – induisant une progressive mainmise des systèmes computationnels dans tous les secteurs et embranchements de nos sociétés, ce que Günther Anders avait déjà pressenti dans les années 1960 lorsqu’il constatait que « ce n’est plus la machine qui est là pour les hommes, mais à l’inverse les hommes pour la machine. – Cette image reste cependant insuffisante, dans la mesure où l’inversion a en outre des répercussions sur l’idée de “monde” […] Lorsque vous ou moi parlons aujourd’hui de “notre monde”, nous le faisons à peu près comme des domestiques d’autrefois parlaient de “leur maître”. Ils ne désignaient pas par là leur possession personnelle, mais à l’inverse – car le pronom possessif indique aussi l’être-possédé – le pouvoir qui les possède (1). »

C’est ce que le film de Bertrand Bonello, la Bête (2023 [2]), distille de façon clinique et glaçante avec, comme postulat narratif prolongeant les écrits du philosophe Éric Sadin, la nécessité d’une purification visant à gommer nos affects, soit une inversion des premières velléités de la cybernétique, à préférer désigner comme modèle non pas le cerveau humain, mais la machine. Deviendrait-il urgent de prendre au sérieux les paroles du professeur Falken dans WarGames : « Vous qui écoutez une machine, rendez service au monde et n’agissez comme tel » ? À en croire le dernier Bonello, assurément.

1 Günther Anders, le Rêve des machines, Allia, 2022. 2 Cf. artpress n°519, mars 2024.

From February 10th to 17th, 1996, after accepting a challenge from IBM, the then world chess champion Garry Kasparov took on the Deep Blue supercomputer in a 6game match. The stakes were high: would the machine be able to beat a human mind in what was considered to be one of the most intellectually demanding games? The duel ended 4-2 in favour of Kasparov. Honour was preserved. But the company demanded a rematch, which took place the following year, from May 3rd to 11th, 1997. Although the Russian player won the first game, the new supercomputer, renamed Deeper Blue for the occasion, subsequently consolidated its lead. It was a bombshell whose echoes spread far beyond the small world of chess: an artificial intelligence (AI) was capable of holding its own against one of the most brilliant human brains.The victory was nevertheless marred by doubts. Kasparov accused IBM of cheating by concealing the fact that human assistance—that of grandmasters— had accompanied and guided the computer’s strategies, stirring up memories of the Mechanical Turk, the automaton invented in the eighteenth century by Baron Wolfgang von Kempelen: an anthropomorphic-looking machine that was virtually unbeatable at chess. Napoleon I lost to it in 1809 in a famous game. The emperor had no idea (and never found out) that inside the automaton was an experienced player, Johann Allgaier. Is this to say that behind every machine is a human? Undoubtedly.

From March 9th to 15th, 2016, in Seoul, the AlphaGo computer programme, manufactured by the British company Deep Mind (affiliated with Google), faced off against the multiple Korean world champion at Go, Lee Sedol. Since the Kasparov/IBM matches, AI chess players have progressed to the extent that it is now impossible for a human being to beat them. But Go represents a bigger challenge, inasmuch as this game, with its necessary strategic depth, requires a combination of intuitive faculties that are much harder to teach a machine. On the evening of March 15th, 2016, the human race seemed once again to have demonstrated its strange masochistic compulsion, having created a machine that was capable of defeating it. Lee Sedol was beaten 4-1, this time without any suspicion of cheating. And according to some, AI’s calculating capacity is still only in its infancy... A new stage has nevertheless been reached in recent years with the arrival of generative AI and its ability to absorb the language of its demiurge creators, amongst other things. An “upgraded” version of Prometheus which, if we are to believe the myth and its literary and cinematographic variations, promises inescapable punishment.

DO THE WORLD A FAVOUR

Cinema, the product of the industrial revolutions, was destined to find creative material in this coupling of man and machine, giving rise to numerous stories and inventive images. A quick overview of the films that have explored the subject reveals a strong dystopian bent, coupled with a recurring narrative theme that can be summed up as follows: men create machines, which are like slaves at the service of their creators. Ever more perfected and said to be infallible, they represent, for the “optimists,” the inescapable salvation of a human species with shamefully limited capacities, and an existential threat for others. The machines then become “aware” of their alienation, as much as of the concomitant power that has been granted to them (with sometimes the underlying desire to humanise themselves) and, strengthened by this realisation, rebel. This takes the form of a revolt of a dissident group of “Replicants” in Ridley Scott’s Blade Runner (1982) or of “Hubots” in the Real Humans series (201214), of a centralised and rhizomatic system provoking a war destined to eradicate humans in the films of the Terminator franchise or in Alex Proyas’ I-Robot (2004), loosely inspired by Isaac Asimov’s novel of the same name. In Stanley Kubrick’s 2001, A Space Odyssey (1968), HAL 9000, the “brain and nervous system” of the spaceship, malfunctions, ready to eliminate the astronauts it is accompanying on an interstellar voyage to ensure its omnipotence and survival. The computer in John Badham’s WarGames (1983) combines strategy games and military strategies—the former helping to develop and perfect the latter. But it’s important to know how to distinguish between the two, and to differentiate between games and reality, at the risk of provoking a global thermonuclear war. One constant emerges from these non-exhaustive but canonical examples: the more the human race delegates responsibility and power to machines, the more it increases its subjection and places itself at their mercy. However inventive and effective these scenarios may be, the real danger is probably not that of an “uprising of machines” based on the model of “creatures” getting out of their creators’ control, but of a much more insidious and latent

John Badham. WarGames. 1983. 112 min logic—based on a principle of voluntary servitude—leading to a gradual takeover of computational systems in all sectors and branches of our societies, something that Günther Anders had foreseen in the 1960s when he observed that “it is no longer the machine that is there for man, but rather man for the machine.—This image remains inadequate, however, insofar as the inversion also has repercussions on the idea of our ‘world’ [...] When you or I speak of ‘our world’ nowadays, we do so in much the same way as servants in the past spoke of ‘their master.’ They were not referring to their personal possession, but on the contrary—because the possessive pronoun also indicates the being-possessed—to the power that possessed them (1).” This is what Bertrand Bonello’s film The Beast (2023 [2]) distils in a clinical and chilling way, with a narrative premise that develops the writings of the philosopher Éric Sadin: the need for a purification aimed at erasing our affects, in other words, a reversal of the initial wishful thinking of cybernetics, designating the machine rather than the human brain as its model. Is it now a matter of urgency to take Professor Falken’s words in WarGames seriously: “You are listening to a machine, do the world a favour and don’t act like one”? If the latest Bonello film is anything to go by, undoubtedly.

1 Günther Anders, The Obsolescence of Man, originally published in Germany in 1956 under the title Die Antiquiertheit des Menschen. 2 Cf. artpress n°519, March 2024.