QUAND NOS VOI­TURES CHOI­SI­RONT QUI SA­CRI­FIER

Marianne Magazine - - Som­maire - PAR EM­MA VAN DER HECHT

CARTE BLANCHE à Em­ma Van Der Hecht

Quand nos voi­tures choi­si­ront qui sa­cri­fier

Le 25 oc­tobre, la pres­ti­gieuse re­vue Na­ture pu­bliait les ré­sul­tats d’une étude dont les ré­sul­tats pour­raient bien dé­ter­mi­ner notre ave­nir. L’étude avait été lan­cée il y a dé­jà quelques an­nées. Le temps de re­cueillir les avis de 2,5 mil­lions de per­sonnes. Le su­jet de l’étude ? Ai­der les in­gé­nieurs char­gés de pro­gram­mer les fu­tures voi­tures au­to­nomes. Pen­dant que nous, pauvres mor­tels, en sommes à râ­ler sur les 26 mil­lions que nous a coû­tés le pas­sage aux 80 km/h, à nous in­sur­ger contre la hausse des prix de l’es­sence et du die­sel, les bons gé­nies qui pré­sident à nos des­ti­nées à tra­vers des al­go­rithmes nous pré­parent des len­de­mains qui chantent. L’idée est simple : la voi­ture au­to­nome, quand elle rou­le­ra confor­ta­ble­ment sur nos routes, se­ra confron­tée, même ra­re­ment, à ces si­tua­tions où il faut, en un clin d’oeil, ar­bi­trer face à un dan­ger. Un en­fant tra­verse sans re­gar­der. Dois-je dé­vier ? Mais si ce­la conduit à pro­je­ter la voi­ture contre un mur, à mettre en dan­ger son conduc­teur ou son pas­sa­ger ? Nous autres, pauvres hu­mains, dans ce genre de si­tua­tion, nous fai­sons ce que nous pou­vons. Et par­fois, nous ne pou­vons pas grand-chose. Nous adop­tons les mau­vais ré­flexes, et croyant faire le bien, nous pre­nons des dé­ci­sions ca­la­mi­teuses. Ce­la s’ap­pelle l’hu­ma­ni­té.

Mais l’in­tel­li­gence ar­ti­fi­cielle ne mange pas de ce pain-là.

Tout sim­ple­ment parce qu’elle ne mange pas de pain du tout, elle n’est que le ré­sul­tat de la pro­gram­ma­tion de ses concep­teurs (du moins pour l’ins­tant, en at­ten­dant que la ma­chine, par le croi­se­ment des mil­lions de don­nées qu’elle au­ra en­gran­gées, ne se mette à ti­rer des conclu­sions tout à fait per­son­nelles de ce qu’elle au­ra ob­ser­vé). Et ce qui re­le­vait du ré­flexe, de la fa­ta­li­té, entre dé­sor­mais dans le cal­cul ra­tion­nel. Il faut pro­gram­mer à l’avance. D’émi­nents phi­lo­sophes et spé­cia­listes d’éthique is­sus du Mas­sa­chu­setts Ins­ti­tute of Tech­no­lo­gy, sou­cieux de dé­mo­cra­tie, ont donc dé­ci­dé de nous de­man­der à nous, ci­toyens de tous les pays, de dé­ci­der dans quel sens la voi­ture dite in­tel­li­gente de­vra ar­bi­trer. Telle est l’étude pu­bliée par Na­ture. Le ré­sul­tat d’un son­dage sur des si­tua­tions im­pro­bables aux­quelles nous ne sommes ja­mais confron­tés et dans les­quelles, si nous y étions confron­tés, nous n’agi­rions que par ré­flexe, sans au­cune di­men­sion mo­rale.

C’est sans doute pour ce­la que les ré­sul­tats de cette étude sus­citent une gêne telle que les mé­dias, de­puis ce 25 oc­tobre,

s’en dé­lectent. Ain­si, l’on ob­serve des va­riantes dans ce ma­cabre choix. Mais glo­ba­le­ment, nous sommes tous d’ac­cord, sur la pla­nète, pour dire que, si la voi­ture doit fon­cer sur un en­fant ou un vieillard, au­tant qu’elle choi­sisse le vieillard. Tant pis si le vieillard en ques­tion est un bien­fai­teur de l’hu­ma­ni­té, un cher­cheur dont les tra­vaux vont sau­ver des vies, tan­dis que le cher pe­tit est un fu­tur sa­laud. C’est une moyenne, vous dit-on. Là où la gêne aug­mente, c’est quand on ap­prend que les per­sonnes son­dées pré­fèrent tuer un homme en gue­nille qu’un cadre dy­na­mique avec at­ta­ché-case, et un pauvre type en sur­poids plu­tôt qu’un gar­çon svelte et ath­lé­tique. Bref, sous cou­vert d’al­go­rithmes, on nous sug­gère que les normes so­ciales se­raient qua­si na­tu­relles, qu’elles re­lèvent d’un in­cons­cient hu­main. En fait, et c’est beau­coup plus in­té­res­sant, les pays où les in­éga­li­tés sont les plus grandes sont ceux où l’on dis­tingue da­van­tage qui mé­rite d’être sau­vé ou sa­cri­fié. Sans doute parce que le sys­tème éco­no­mique est lui-même le re­flet de cette vi­sion se­lon la­quelle nous ne se­rions pas tous égaux. Ce qui si­gni­fie que nos cri­tères mo­raux et notre or­ga­ni­sa­tion so­ciale sont in­ti­me­ment liés. Mer­ci aux scien­ti­fiques du MIT de re­dé­cou­vrir Marx.

L’exis­tence de voi­tures au­to­nomes, elle, n’est ja­mais ques­tion­née. C’est un pro­grès. Comme tout ce qui re­lève de la tech­no­lo­gie. Mais l’idée d’un pro­grès mo­ral de l’hu­ma­ni­té, qui per­met­trait de nous de­man­der quel genre d’hu­mains nous vou­lons être, dans quel genre de so­cié­té, or­ga­ni­sée se­lon quels cri­tères, cu­rieu­se­ment, au­cun émi­nent spé­cia­liste ne s’y in­té­resse ja­mais.

Newspapers in French

Newspapers from France

© PressReader. All rights reserved.