À LA CONQUÊTE DE VOS CER­VEAUX

Vanity Fair (France) - - Vanity Fair | Affaires -

Le mil­liar­daire Elon Musk est l’en­tre­pre­neur le plus au­da­cieux et adu­lé de la Si­li­con Val­ley. Après avoir lan­cé Pay­pal, les voi­tures élec­triques Tes­la ou en­core les fu­sées Spa­ceX, il se pas­sionne au­jourd’hui pour l’in­tel­li­gence ar­ti­fi­cielle. Per­sua­dé que celle-ci fi­ni­ra par as­ser­vir l’hu­ma­ni­té, il dé­voile son plan se­cret à MAUREEN DOWD : fu­sion­ner l’homme et la ma­chine.

Au dé­but, ce n’était qu’une simple dis­cus­sion entre amis sur l’avenir de l’hu­ma­ni­té. Elon Musk par­lait des dan­gers de l’in­tel­li­gence ar­ti­fi­cielle (IA) avec De­mis Has­sa­bis. Deux hommes par­mi les plus in­tri­gants de la Si­li­con Val­ley : Has­sa­bis a créé le la­bo­ra­toire de re­cherches Deep-Mind. Ce jour-là, ils ba­vardent tran­quille­ment à la can­tine. Musk, qui a lan­cé Pay­pal et les voi­tures élec­triques Tes­la dé­taille son nou­vel ob­jec­tif, pri­mor­dial pour l’avenir de l’hu­ma­ni­té : la conquête d’autres pla­nètes. Has­sa­bis ré­plique que c’est lui, en réa­li­té, qui tra­vaille sur le pro­jet le plus im­por­tant : la créa­tion d’une su­per-in­tel­li­gence ar­ti­fi­cielle. Musk re­bon­dit : c’est bien pour ce­la qu’il faut co­lo­ni­ser Mars, parce qu’un jour l’in­tel­li­gence ar­ti­fi­cielle se re­tour­ne­ra contre nous et il fau­dra bien trou­ver un re­fuge. Mais non, as­sène Has­sa­bis, amu­sé : il suf­fi­ra qu’elle nous suive sur Mars. Le moins que l’on puisse dire, c’est que l’ar­gu­ment n’a pas apai­sé Elon Musk.

En 2014, Google a ab­sor­bé le la­bo­ra­toire de Has­sa­bis. Musk, qui avait in­ves­ti dans l’en­tre­prise, vou­lait gar­der un oeil sur l’évo­lu­tion de ces pro­jets qui l’in­quiètent tant : « J’ai pu mieux voir le rythme des pro­grès et tout ça va très vite. Beau­coup plus que les gens ne le pensent. Parce que, dans la vie de tous les jours, vous ne voyez pas des ro­bots se pro­me­ner au­tour de vous. Vous avez peut- être un as­pi­ra­teur Room­ba, mais ce n’est pas lui qui va do­mi­ner le monde. » À Du­baï, en fé­vrier, il a ré­pé­té que la seule fa­çon de ne pas se lais­ser dé­pas­ser se­rait de « fu­sion­ner l’in­tel­li­gence bio­lo­gique et l’in­tel­li­gence de la ma­chine ». Fin mars, il a ain­si confir­mé qu’il al­lait créer une en­tre­prise nom­mée Neu­ra­link, char­gée de mettre au point un câ­blage neu­ro­nal per­met­tant au cer­veau de com­mu­ni­quer di­rec­te­ment avec les or­di­na­teurs. « Nous sommes dé­jà des cy­borgs, plaide- t-il. Votre té­lé­phone ou votre or­di­na­teur sont des ex­ten­sions de vous-même, mais vous uti­li­sez vos doigts ou la pa­role comme in­ter­face. C’est très lent. » Avec un câ­blage neu­ro­nal po­sé par in­jec­tion dans le crâne, les don­nées fu­se­raient du cer­veau aux ap­pa­reils nu­mé­riques à une vi­tesse qua­si illi­mi­tée. « Je pense que nous au­rons une in­ter­face cé­ré­brale qui fonc­tionne dans quatre ou cinq ans », pro­met-il.

A contra­rio, lors d’une rencontre avec des étu­diants en 2014, il a qua­li­fié l’IA de « pire menace » pour l’hu­ma­ni­té. « Avec l’in­tel­li­gence ar­ti­fi­cielle, nous in­vo­quons le dé­mon, leur a- t-il dit. Vous connais­sez tous l’his­toire du gars qui des­sine un penta­gramme par terre et qui se dit qu’avec un peu d’eau bé­nite, il se­rait ca­pable de maî­tri­ser le diable. Mais on sait tous que ça ne marche pas. » Musk ne plai­san­tait pas. Sa croi­sade contre les dan­gers de l’in­tel­li­gence ar­ti­fi­cielle ve­nait de com­men­cer.

Nous, les ani­maux de com­pa­gnie

Musk est le genre de type à de­man­der la lune – lit­té­ra­le­ment. Il lance des fu­sées dans l’es­pace et es­père ha­bi­ter sur Mars un jour. Il vient d’an­non­cer son in­ten­tion d’en­voyer deux tou­ristes dans un vol au­tour de la Lune dès 2018. Il fa­brique des bat­te­ries pour sto­cker l’éner­gie so­laire à bon mar­ché. Il uti­lise un acier brillant si sexy dans ses élé­gantes voi­tures élec­triques Tes­la que même le ta­tillon Steve Jobs n’au­rait rien trou­vé à re­dire.

Il veut faire ga­gner du temps à l’hu­ma­ni­té et pour ce­la, il rêve de lan­cer un train élec­tro­ma­gné­tique ca­pable de re­lier Los An­geles et San Fran­cis­co à près de 1 200 km/h. Lors­qu’il est al­lé voir le se­cré­taire d’État à la dé­fense de Ba­rack Oba­ma, l’été 2016, il a twee­té ma­li­cieu­se­ment qu’il était au Pen­ta­gone pour par­ler d’un « cos­tume vo­lant en mé­tal » comme ce­lui d’Iron Man. Alors qu’il était coin­cé dans les bou­chons à Los An­geles en dé­cembre, il a pro­mis qu’il al­lait lan­cer la so­cié­té Bo­ring (en­nui) pour creu­ser des tun­nels sous la ville et sau­ver la po­pu­la­tion d’une « cir­cu­la­tion dé­mo­ra­li­sante ». Et un mois plus tard, on ap­pre­nait qu’il au­rait char­gé l’un de ses in­gé­nieurs de su­per­vi­ser l’opé­ra­tion et de com­men­cer à creu­ser. Bien sûr, les grands rê­veurs tré­buchent par­fois dans les grandes lar­geurs. Quelques fu­sées ont ex­plo­sé et, en mai 2016, le conduc­teur d’une Tes­la à pi­lo­tage au­to­ma­tique est mort dans un ac­ci­dent (une en­quête ul­té­rieure a in­no­cen­té le sys­tème Au­to­pi­lot). Musk reste stoïque quand on évoque ces re­vers, mais il est par­fai­te­ment conscient des ca­tas­trophes po­ten­tielles que re­cèle la tech­no­lo­gie. « Nous sommes la pre­mière es­pèce ca­pable de pro­vo­quer son propre anéan­tis­se­ment », m’a- t- il dit. C’est une pen­sée lan­ci­nante qui ne vous lâche plus quand vous vous pro­me­nez dans la Si­li­con Val­ley : les sei­gneurs d’In­ter­net aiment ra­con­ter comment ils amé­liorent le monde à coups d’al­go­rithmes, d’ap­pli­ca­tions et d’in­ven­tions qui, disent- ils, vont nous rendre la vie plus simple, plus saine, plus amu­sante, plus res­pec­tueuse de la pla­nète... Et pour­tant, vous gar­dez en tête ce sen­ti­ment ef­frayant qu’en fait, vous êtes la sou­ris blanche de leurs ex­pé­riences, que ces gens- là voient l’hu­main comme une tech­no­lo­gie dé­pas­sée, vouée à fi­nir au re­but pour qu’ils puissent créer un nou­veau monde plus élé­gant. Bien des per­sonnes qui vivent là- bas ont in­té­gré cette vi­sion : nous al­lons vivre jus­qu’à 150 ans, mais nous se­rons au ser­vice des ma­chines. Peut- être, d’ailleurs, les ser­vons- nous dé­jà. Elon Musk l’a bien dit lors d’une confé­rence en 2016 : il se peut que nous ne soyons que les créa­tures d’une si­mu­la­tion in­ven­tée par une ci­vi­li­sa­tion qui nous dé­passe, comme dans le film Ma­trix. Pour ces in­gé­nieurs de pointe, les em­pires s’ef­fondrent, les so­cié­tés changent et nous al­lons vers un nou­veau monde iné­luc­table. Ils ne se de­mandent pas « si » le monde va chan­ger mais plu­tôt « comment » nous de­vons nous y adap­ter.

Quand Elon Musk et ses amis tirent en­semble la son­nette d’alarme, ça de­vrait dé­clen­cher une pa­nique gé­né­rale. Mais non. De­puis long­temps, le fa­ta­lisme dans la Si­li­con Val­ley est aus­si épais que le brouillard de la baie de San Fran­cis­co. La croi­sade de Musk est, au mieux, vue comme le ro­cher que Si­syphe re­monte sans cesse sur sa pente ; au pire, comme une ten­ta­tive de sa­bo­tage dé­li­bé­rée du pro­grès. Mais lui en est per­sua­dé : les

ELON MUSK VOIT L’IN­TEL­LI­GENCE AR­TI­FI­CIELLE COMME LA « PIRE MENACE » POUR L’HU­MA­NI­TÉ.

« SI UNE IN­TEL­LI­GENCE AR­TI­FI­CIELLE MALVEILLANTE VOIT LE JOUR, CE SE­RA CHEZ GOOGLE. » Ash­lee Vance bio­graphe d’Elon Musk

tech­no- oli­garques comme Mark Zu­cker­berg, chez Fa­ce­book, ne font que plan­ter des ré­ver­bères qui éclairent la route vers un avenir où les hu­mains de­vien­dront des ani­maux de com­pa­gnie, se­lon la for­mule du co­fon­da­teur d’Apple, Steve Woz­niak. Et c’est la rai­son pour la­quelle il ne compte pas se lais­ser faire. En com­pa­gnie de Sam Alt­man, le jeune pa­tron du prin­ci­pal in­cu­ba­teur de la Si­li­con Val­ley, il a lan­cé OpenAI, une or­ga­ni­sa­tion à but non lu­cra­tif do­tée d’un mil­liard de dol­lars pour pour­suivre un seul ob­jec­tif : rendre l’in­tel­li­gence ar­ti­fi­cielle plus sûre.

À pre­mière vue, ce pro­jet res­semble à une lu­bie de ga­mins sur­doués qui jettent leur ar­gent par les fe­nêtres en dé­bau­chant les meilleurs ex­perts en in­tel­li­gence ar­ti­fi­cielle. Mais jouer les Da­vid contre Go­liath, c’est la spé­cia­li­té d’Elon Musk et il le fait tou­jours avec un sens éprou­vé du spec­tacle. Pen­dant que les autres en­tre­pre­neurs de la Si­li­con Val­ley se concentrent sur leur in­tro­duc­tion en Bourse, Musk se pas­sionne pour la ques­tion du ré­chauf­fe­ment cli­ma­tique ou ima­gine un jour mou­rir sur Mars (et pas, dit- il, au mo­ment de l’at­ter­ris­sage). De­puis l’ado­les­cence, il a fait du des­tin de l’hu­ma­ni­té un pro­blème per­son­nel. La révélation, m’a- t- il dit, est ve­nue de la lec­ture du Guide du voya­geur ga­lac­tique de Dou­glas Adams. Dans ce ro­man de science-fic­tion, des ex­tra­ter­restres, les Vo­gons, dé­truisent la Terre parce qu’elle se trouve sur le tra­cé d’une au­to­route spa­tiale. On y trouve des ré­fé­rences cé­lèbres de la culture geek comme Mar­vin, le ro­bot pa­ra­no (qui a don­né son nom à la chan­son de Ra­dio­head Pa­ra­noid An­droid), ou en­core le fa­meux su­per­or­di na­teur ca­pable de ré­pondre à la Grande Ques­tion sur la vie, l’uni­vers et le reste (au­quel fait al­lu­sion le slo­gan de la Tes­la modèle S : « La vie, l’uni­vers et tout le reste »). Dans la bio­gra­phie qu’il a consa­crée à Elon Musk, L’en­tre­pre­neur qui va chan­ger le monde, Ash­lee Vance ra­conte qu’à 14 ans, le jeune homme a ain­si for­mu­lé la mis­sion de sa vie : « Lut­ter pour une meilleure clair­voyance col­lec­tive. » Pour y par­ve­nir, Musk veut être le pre­mier à mettre au point cette su­per­in­tel­li­gence ar­ti­fi­cielle, puis l’of­frir au reste du monde plu­tôt que de lais­ser les al­go­rithmes entre les mains des ex­perts et des gou­ver­ne­ments. Y com­pris lorsque les élites tech­no­lo­giques sont ses propres amis, comme les fon­da­teurs de Google, Lar­ry Page et Ser­gey Brin. « J’ai sou­vent par­lé de ça avec Lar­ry, m’a dit Musk. Et par­fois, ça a pas mal chauf­fé. Il consi­dère, comme beau­coup de fu­tu­ro­logues, que l’avè­ne­ment des ro­bots et notre re­lé­ga­tion à un rôle pé­ri­phé­rique est in­évi­table. Pour eux, nous sommes les pré­cur­seurs bio­lo­giques d’une su­per­in­tel­li­gence nu­mé­rique. »

Quand la ma­chine bluffe au po­ker

Google a ra­che­té presque toutes les en­tre­prises de ro­bo­tique et de ma­chine lear­ning (une branche de l’in­tel­li­gence ar­ti­fi­cielle) ces der­nières an­nées. La firme de Moun­tain View a ac­quis DeepMind en 2014 pour 650 mil­lions de dol­lars (475 mil­lions d’eu­ros) et a bâ­ti au­tour de cette struc­ture l’équipe Google Brain. « Si une in­tel­li­gence ar­ti­fi­cielle malveillante voit le jour, m’a dit le bio­graphe de Musk, Ash­lee Vance, ce se­ra d’abord chez Google. » En mars 2016, la Si­li­con Val­ley a ava­lé de tra­vers quand un cham­pion du jeu de go a été bat­tu par un lo­gi­ciel conçu par les in­gé­nieurs de DeepMind. C’était un « mo­ment his­to­rique », se sou­vient son fon­da­teur, Has­sa­bis, lui-même sur­pris que la vic­toire de l’or­di­na­teur ar­rive aus­si ra­pi­de­ment. Plus ré­cem­ment, son pro­gramme a dis­pu­té soixante par­ties en ligne contre les meilleurs joueurs de Chine, du Ja­pon et de Co­rée. Ré­sul­tat : 60 à 0. En jan­vier 2017, autre choc : un lo­gi­ciel de po­ker a réus­si à écra­ser les meilleurs joueurs en bluf­fant.

Quand Google a ac­quis DeepMind, Has­sa­bis a po­sé une seule condi­tion : mettre en place d’un co­mi­té d’éthique sur l’in­tel­li­gence ar­ti­fi­cielle. À l’époque, cette de­mande sem­blait am­ple­ment pré­ma­tu­rée ; au­jourd’hui, beau­coup moins. En juin 2016, un cher­cheur de DeepMind a pu­blié un ar­ticle dé­cri­vant la fa­çon de conce­voir un « gros bou­ton rouge » pour dé­bran­cher illi­co une in­tel­li­gence ar­ti­fi­cielle en cas de pro­blème. Se­lon son en­tou­rage, Lar­ry Page s’in­té­res­se­rait à ces ques­tions à cause de la frus­tra­tion qu’il res­sent quand un sys­tème – ré­ser­va­tion d’un billet, fixa­tion des prix sur un mar­ché... – ne fonc­tionne pas de fa­çon op­ti­male. Il est convain­cu que l’in­tel­li­gence ar­ti­fi­cielle va amé­lio­rer la vie des gens en leur lais­sant « plus de temps pour leur fa­mille ou leurs loi­sirs ». Sur­tout quand un ro­bot au­ra pris leur place au tra­vail...

Musk est l’ami de Page. Il a as­sis­té à son ma­riage et dort même chez lui quand il est de pas­sage à San Fran­cis­co. « Ça ne vaut pas la peine d’avoir une mai­son à soi si c’est seule­ment pour une ou deux nuits par se­maine », m’a ex­pli­qué la 99e for­tune mon­diale. Par­fois, Musk s’in­quiète de la naï­ve­té de Page quand il es­time que les ma­chines ne sont ni meilleures ni plus mau­vaises que leurs créa­teurs. Aga­cés d’être pré­sen­tés comme des in­gé­nieurs in­con­sé­quents, beau­coup d’em­ployés de Google consi­dèrent Musk comme un au­teur de mau­vaise science- fic­tion. « Les ro­bots ont été in­ven­tés ; les na­tions les arment ; un méchant dic­ta­teur s’en sert contre les hu­mains et tous sont tués à la fin ? se moque Eric Sch­midt, le grand pa­tron du mo­teur de re­cherche. Tout ce­la res­semble à un ro­man, pour moi. » Pour d’autres, Elon Musk veut moins sau­ver le monde que faire son au­to­pro­mo­tion : il ex­ploi­te­rait ain­si l’éter­nelle peur du conflit entre l’homme et la ma­chine, de la créa­ture qui se re­tourne contre son créa­teur. Pen­dant ce temps, il s’em­ploie­rait sur­tout à at­ti­rer des ta­lents à moindre prix afin de dé­ve­lop­per ses propres lo­gi­ciels pour ses voi­tures Tes­la et ses fu­sées Spa­ceX. Ou, pour le dire comme Sam Spade/Hum­phrey Bo­gart, dans Le Fau­con mal­tais : « La plu­part des choses à San Fran­cis­co sont à vendre... ou à prendre. »

Musk est sans au­cun doute un ex­cellent com­mer­cial. Qui mieux qu’un dé­fen­seur de l’hu­ma­ni­té peut vous vendre la nou­velle Tes­la qui se conduit toute seule ? An­drew Ng, di­rec­teur scien­ti­fique de Bai­du (le Google chi­nois) jus­qu’en mars, y voit un « coup de gé­nie mar­ke­ting » : « Au plus fort de la ré­ces­sion, Musk a convain­cu le gou­ver­ne­ment amé­ri­cain de l’ai­der à conce­voir une voi­ture de sport élec­trique ! » Pour lui, craindre un usage mal­veillant de l’in­tel­li­gence ar­ti­fi­cielle au­jourd’hui re­vient à s’in­quié­ter de la sur­po­pu­la­tion de Mars avant même que l’on soit ca­pable de s’y ins­tal­ler.

Tous ces scé­na­rios apo­ca­lyp­tiques n’au­ront de sens que quand nous vi­vrons dans un monde où une simple im­pri­mante fonc­tion­ne­ra cor­rec­te­ment. L’ini­tia­tive d’OpenAI tra­duit peut- être la peur de pas­ser à cô­té de la pro­chaine ré­vo­lu­tion tech­no­lo­gique. Musk ne voit-il pas Page s’en­ga­ger dans une nou­velle gé­né­ra­tion de lo­gi­ciels et ras­sem­bler une ar­mée de co­deurs ? « Elon veut les mêmes jouets que Lar­ry, ex­plique son bio­graphe Ash­lee Vance. Ce sont deux su­per­puis­sances ; ils sont amis, mais se mé­fient l’un de l’autre. » Comme cette fa­meuse phrase pro­non­cée dans la sé­rie Si­li­con Val­ley (sur la chaîne HBO) : « Je ne veux pas vivre dans un monde où quelqu’un d’autre fa­brique un monde meilleur. » Même Musk le re­con­naît : « Notre ami­tié a été af­fec­tée, mais ça va mieux main­te­nant. » Il ne peut pas dire la même chose du pa­tron de Fa­ce­book, Mark Zu­cker­berg, de­ve­nu une sorte de gou­rou au style de vie im­pro­bable. Chaque an­née, Zuck se fixe une sé­rie d’ob­jec­tifs dé­li­rants pour lui, comme por­ter une cra­vate tous les jours, lire deux livres en­tiers par mois, ap­prendre le man­da­rin et... ne man­ger que de la viande d’ani­maux qu’il a tués de ses propres mains. En 2016, il s’est at­ta­qué à l’in­tel­li­gence ar­ti­fi­cielle. Trois se­maines après le lan­ce­ment d’OpenAI, Zu­cker­berg a an­non­cé sa vo­lon­té de créer un lo­gi­ciel ca­pable de l’ai­der à gé­rer sa mai­son, de re­con­naître ses amis et de je­ter un oeil à la chambre des en­fants. « Un peu comme Jar­vis », a-t-il pré­ci­sé, en ré­fé­rence au ma­jor­dome vir­tuel d’Iron Man. « Cer­taines per­sonnes es­saient de convaincre le pu­blic que l’in­tel­li­gence ar­ti­fi­cielle est dan­ge­reuse, ex­plique Zu­cker­berg en fai­sant al­lu­sion à Musk. Ça me semble ti­ré par les che­veux et bien moins pro­bable que des dé­sastres cau­sés par les ma­la­dies, la vio­lence, etc. » Avant Noël 2016, le créa­teur de Fa­ce­book a pré­sen­té son Jar­vis au monde. Ce­lui- ci a la voix apai­sante de Mor­gan Free­man, met de la mu­sique, baisse les lu­mières et pré­pare des toasts. J’ai in­ter­ro­gé le vé­ri­table Iron Man, Elon Musk, au su­jet de ce ma­jor­dome : « Je ne di­rais pas que c’est de l’in­tel­li­gence ar­ti­fi­cielle ; ce sont des fonc­tions do­mes­tiques au­to­ma­ti­sées, m’a-t-il ré­pon­du. On n’a pas vrai­ment be­soin d’in­tel­li­gence pour ce qu’il fait. »

Un Dis­ney­land sans en­fants

En jan­vier 2016, Musk s’est vu dé­cer­ner par un think tank de Wa­shing­ton la palme iro­nique du lud­disme (ce mou­ve­ment d’ou­vriers an­glais, au dé­but du XIXe siècle qui dé­trui­sait les ma­chines ac­cu­sées de pro­vo­quer du chô­mage). Et pour­tant, il avait des concur­rents sé­rieux. No­tam­ment l’as­tro­phy­si­cien Ste­phen Haw­king, qui a dé­cla­ré sur la BBC que « l’in­tel­li­gence ar­ti­fi­cielle pour­rait mettre fin à la race hu­maine ». Ou en­core l’an­cien se­cré­taire d’État amé­ri­cain

Hen­ry Kis­sin­ger, qui a réuni se­crè­te­ment les meilleurs ex­perts dans un club pri­vé à Man­hat­tan en 2016 pour leur faire part de ses pré­oc­cu­pa­tions concer­nant les ro­bots in­tel­li­gents. « Quand nous avons dé­cou­vert le feu et que ça a foi­ré, nous avons in­ven­té l’ex­tinc­teur ; quand nous avons fa­bri­qué des voi­tures et que ça a foi­ré, nous avons in­ven­té la cein­ture de sé­cu­ri­té, les air­bags et les feux rouges, m’a dit Max Teg­mark, un pro­fes­seur du MIT. Mais quand il s’agit d’armes nu­cléaires ou d’in­tel­li­gence ar­ti­fi­cielle, nous ne vou­lons pas at­tendre de com­mettre une er­reur pour ap­prendre. »

Six mois plus tard, Has­sa­bis, Musk ain­si qu’un mil­lier de per­son­na­li­tés ont si­gné un ap­pel pour l’in­ter­dic­tion des armes of­fen­sives au­to­nomes, plus connues sous le nom de « drones tueurs ». En sep­tembre 2016, les plus grandes so­cié­tés de tech­no­lo­gie des États-Unis ont créé le Part­ner­ship on Ar­ti­fi­cial In­tel­li­gence char­gé d’ex­plo­rer toutes les ques­tions – no­tam­ment éthiques – sou­le­vées par l’in­tel­li­gence ar­ti­fi­cielle. Pen­dant ce temps, l’Union eu­ro­péenne se de­mande si les ro­bots ont une « per­son­na­li­té ju­ri­dique » ou s’ils de­vraient être consi­dé­rés comme des es­claves au sens du droit ro­main. Teg­mark a or­ga­ni­sé une se­conde confé­rence en jan­vier 2017, au centre Asi­lo­mar, en Ca­li­for­nie, là même où la com­mu­nau­té scien­ti­fique s’était réunie en 1975 pour dé­li­mi­ter ce qui était ac­cep­table dans le champ de l’ex­pé­ri­men­ta­tion gé­né­tique. « Les prin­ci­paux ex­perts dans la Si­li­con Val­ley prennent dé­sor­mais la ques­tion beau­coup plus au sé­rieux et re­con­naissent qu’il y a un risque, ob­serve Musk. Mais je ne suis pas sûr qu’ils en me­surent bien l’am­pleur. » Steve Woz­niak s’est de­man­dé pu­bli­que­ment s’il al­lait de­ve­nir un ani­mal de com­pa­gnie pour les ro­bots. « Nous avons com­men­cé à tres­ser notre laisse », m’a- t-il dit. Il a même com­men­cé à éla­bo­rer les bases d’une paix avec les ro­bots. « Pour­quoi nous po­sons-nous en en­ne­mis de ceux qui pour­raient nous vaincre un jour ? s’amuse- t-il. Ce de­vrait être un par­te­na­riat. Nous de­vrions bâ­tir une culture où les ro­bots nous ver­raient comme des amis. »

Pour dé­mê­ler le vrai du faux, je suis al­lée voir le cé­lèbre fu­tu­ro­logue Ray Kurz­weil. À 69 ans, l’au­teur d’Hu­ma­ni­té 2.0 (M21 édi­tions) prend quelque 90 pi­lules par jour cen­sées lui per­mettre d’at­teindre l’im­mor­ta­li­té ou, du moins, une « pro­lon­ga­tion in­fi­nie de notre fi­chier- es­prit ». Il a tel­le­ment en­vie de se fondre dans les ma­chines qu’il uti­lise par­fois le mot « nous » quand il évoque de fu­turs êtres su­per-in­tel­li­gents, bien loin du « eux » de Musk. Pour lui, il y a trois étapes dans la ré­ponse hu­maine aux nou­velles tech­no­lo­gies : « Ouah », « hum hum » et « quelles sont nos autres op­tions pour al­ler de l’avant ? » « La liste des choses que les hu­mains savent faire mieux que les or­di­na­teurs ré­tré­cit de jour en jour, pour­suit-il. Mais nous créons jus­te­ment ces ou­tils pour nous dé­pas­ser. » Tout comme, il y a deux cents mil­lions d’an­nées, des mam­mi­fères ont dé­ve­lop­pé un néo­cor­tex qui a per­mis à l’homme d’« in­ven­ter les langues, la science, l’art et la tech­nique », nous se­rons, se­lon Kur­weil, des cy­borgs – mi- cy­ber­né­tiques, mi- or­ga­niques – d’ici aux an­nées 2030, avec des na­no­ro­bots de la taille des cel­lules san­guines qui nous re­lie­ront à des cer­veaux syn­thé­tiques. Il dit : « Nous se­rons plus spi­ri­tuels, plus doués en mu­sique, plus sages. » « Comme si l’in­tel­li­gence était la seule chose qui im­por­tait, s’exas­père l’au­teur du ma­nuel de ré­fé­rence sur l’in­tel­li­gence ar­ti­fi­cielle, Stuart Russell. Je pense que notre rem­pla­ce­ment par des ma­chines sans exis­tence consciente, quel que soit le nombre de choses éton­nantes qu’elles in­ven­te­raient, se­rait la pire tra­gé­die ima­gi­nable. » Nick Bostrom, pro­fes­seur de phi­lo­so­phie à Ox­ford, ap­pelle une telle so­cié­té pleine de tech­no­lo­gie mais sans hu­mains, « un Dis­ney­land sans en­fants » .

« Cer­tains pensent que si les ma­chines de­ve­naient plus in­tel­li­gentes que nous, alors nous de­vrions leur aban­don­ner la pla­nète et al­ler voir ailleurs, dé­taille Russell. Et puis, il y a ceux qui disent que nous té­lé­char­ge­rions nos consciences dans les ma­chines et que nous de­vien­drions à notre tour des ma­chines. Je trouve ça com­plè­te­ment in­vrai­sem­blable. » Il conteste éga­le­ment le point de vue du Fran­çais Yann Le Cun, qui di­rige le la­bo­ra­toire de re­cherche en in­tel­li­gence ar­ti­fi­cielle de Fa­ce­book, Fair. Ce der­nier a af­fir­mé à la BBC que les scé­na­rios à la Ter­mi­na­tor, où les ma­chines prennent le pou­voir, sont certes di­ver­tis­sants mais pas du tout réa­listes.

« JE NE VEUX PAS VIVRE DANS UN MONDE OÙ QUELQU’UN D’AUTRE FA­BRIQUE UN MONDE MEILLEUR. » GaVin BELSOn grand pa­tron dans la sé­rie Si­li­con Val­ley

Et en pre­mier lieu parce que les ro­bots ne sont pas sou­mis à des be­soins hu­mains comme la faim, la re­cherche du pou­voir, l’ins­tinct de re­pro­duc­tion ou de conser­va­tion. « Faux ! se ré­crie Russell. Il est évident qu’une ma­chine se pré­oc­cu­pe­ra de sa propre sur­vie, même si vous ne la pro­gram­mez pas pour ce­la... Tout sim­ple­ment parce que si vous lui dites : “Fais-moi un ca­fé”, elle ne peut pas le pré­pa­rer si elle est morte. Donc, quel que soit l’ordre que vous lui don­nez, elle doit pré­ser­ver sa propre exis­tence. » Russell dé­monte deux autres ar­gu­ments : « Le pre­mier, c’est “ça n’ar­ri­ve­ra ja­mais”, ce qui re­vient à dire que nous fi­lons vers le pré­ci­pice, mais qu’heu­reu­se­ment, nous n’avons pas as­sez d’es­sence pour nous y je­ter. C’est mal connaître les hommes. Et l’autre, c’est : “Ne vous in­quié­tez pas, nous al­lons sim­ple­ment construire des ro­bots et nous tra­vaille­rons en­semble.” Ce qui pose la ques­tion sui­vante : si les ro­bots ne sont pas d’ac­cord avec nos ob­jec­tifs, ac­cep­te­ront-ils de col­la­bo­rer avec nous ? »

En 2016, Mi­cro­soft a dû fer­mer son agent conver­sa­tion­nel in­tel­li­gent, Tay : les uti­li­sa­teurs de Twit­ter, qui étaient cen­sés l’édu­quer « grâce à une conver­sa­tion dé­con­trac­tée et lu­dique » (dixit Mi­cro­soft) sont par­ve­nus à le rendre ra­ciste, com­plo­tiste et mi­so­gyne. « Bush est res­pon­sable du 11-Sep­tembre et Hit­ler au­rait fait un meilleur bou­lot que le singe que nous avons ac­tuel­le­ment [à la Mai­son Blanche, Ba­rack Oba­ma]. Do­nald Trump est notre seul es­poir », a twee­té Tay quelques heures seule­ment après son lan­ce­ment. Musk l’a im­mé­dia­te­ment re­le­vé : « Ce se­rait in­té­res­sant de voir en com­bien de temps on ar­ri­ve­rait à Hit­ler avec ces ro­bots. Pour Tay, ça a pris une jour­née. »

Elie­zer Yud­kows­ky est un cher­cheur très ré­pu­té qui tente de dé­ter­mi­ner s’il est pos­sible, en pra­tique, d’orien­ter le dé­ve­lop­pe­ment d’une in­tel­li­gence ar­ti­fi­cielle – y com­pris dans le mau­vais sens. « Comment co­dez-vous une ma­chine de fa­çon à ce qu’elle soit do­tée d’un bou­ton d’ar­rêt, qu’elle l’ac­cepte et n’es­saie pas de s’en dé­bar­ras­ser, qu’elle veuille bien être éteinte et vous laisse le faire, mais qu’elle ne vous de­vance pas et ne s’ar­rête pas elle-même ? m’a- t-il de­man­dé dans un res­tau­rant de Ber­ke­ley. Et si elle est ca­pable de se cor­ri­ger, ne se cor­ri­ge­ra-t- elle pas en éli­mi­nant cet in­ter­rup­teur ? C’est là- des­sus que je tra­vaille et ce n’est pas simple. » J’ai bre­douillé un laïus à propos des re­je­tons de Klaa­tu (le per­son­nage prin­ci­pal du Jour où la Terre s’ar­rê­ta, de Ro­bert Wise, 1951), de HAL (2001, l’Odys­sée de l’es­pace, de Stan- ley Ku­brick, 1968) et d’Ul­tron (un des su­per­vi­lains de l’uni­vers Mar­vel), tous ces monstres qui s’em­parent d’In­ter­net, de notre compte en banque, des ré­seaux de trans­port et des ins­tal­la­tions mi­li­taires. Qu’en est-il des Ré­pli­cants de Blade Run­ner (Rid­ley Scott, 1982) qui conspirent pour tuer leur créa­teur ? Yud­kows­ky s’est pris la tête entre les mains, puis m’a pa­tiem­ment ex­pli­qué : « L’in­tel­li­gence ar­ti­fi­cielle n’a pas be­soin de s’em­pa­rer de tout In­ter­net. Elle n’a pas be­soin de drones. Elle ne se­rait pas dan­ge­reuse parce qu’elle dis­po­se­rait d’armes. Elle le se­rait parce qu’elle est plus douée que nous. Ima­gi­nez qu’elle soit ca­pable de pré­dire la struc­ture des pro­téines à par­tir de l’ADN ; il lui suf­fi­rait d’en­voyer quelques e-mails à des la­bo­ra­toires spé­cia­li­sés et bien­tôt, elle dis­po­se­rait de sa propre ma­chine mo­lé­cu­laire ca­pable d’en créer d’autres en­core plus so­phis­ti­quées. Une ma­chine per­ver­tie ne res­sem­ble­rait pas à un ro­bot hu­ma­noïde avec des yeux rouges ; elle au­rait plu­tôt l’ap­pa­rence de bac­té­ries syn­thé­tiques in­vi­sibles, avec des na­no- or­di­na­teurs em­bar­qués qui se ca­che­raient dans les vais­seaux san­guins de tout un cha­cun. Et puis un jour, toutes en même temps, elles li­bé­re­raient un mi­cro­gramme de toxine bo­tu­lique et tout le monde se­rait mort. Et en­core, ça ne se pas­se­rait pas vrai­ment comme ça, parce qu’elles se­raient bien plus ma­lignes que moi. Quand vous construi­sez quelque chose plus in­tel­li­gent que vous, vous de­vez réus­sir du pre­mier coup. »

Cette idée m’a fait re­pen­ser à ma conver­sa­tion avec les deux ini­tia­teurs d’OpenAI. Ne vous fo­ca­li­sez pas sur les ro­bots- tueurs, m’avait dit Musk. « L’im­por­tant, ce n’est pas le ro­bot, c’est l’al­go­rithme. Le ro­bot n’est que son ou­til, un tas de cap­teurs et de vé­rins. L’in­tel­li­gence, elle, est sur le ré­seau. Il faut seule­ment évi­ter que l’al­go­rithme ne s’em­balle. Mais si c’est une su­per­in­tel­li­gence dé­cen­tra­li­sée qui com­mande, il n’y a pas de moyen de l’ar­rê­ter. » Son com­père Alt­man avait dé­taillé le scé­na­rio : « Une force qui pren­drait le contrôle to­tal d’In­ter­net au­rait bien plus de pou­voir que ce­lui qui di­rige une ar­mée de ro­bots so­phis­ti­qués. Nos vies sont dé­jà tel­le­ment dé­pen­dantes d’In­ter­net... » Même des ro­bots ano­dins pour­raient nous nuire : « Ima­gi­nez que vous fa­bri­quiez un ro­bot au­to­di­dacte spé­cia­li­sé dans la cueillette des fraises, dit Musk. Chaque jour, il s’amé­liore et il en ra­masse de plus en plus. Et son seul but, c’est de cueillir des fraises. Au bout d’un mo­ment, il vou­dra contrô­ler tous les champs de fraises. Straw­ber­ry fields fo­re­ver. » Pas de place pour les êtres hu­mains. Mais peuvent-ils vrai­ment créer un bou­ton stop ? « Je ne suis pas sûr de vou­loir être ce­lui qui en disposera, parce que c’est la pre­mière per­sonne qu’il fau­dra tuer », ré­pond Musk. Alt­man ajoute : « Nous sommes vrai­ment à un mo­ment cru­cial, parce que, dans les pro­chaines dé­cen­nies, nous irons tout droit soit vers notre propre des­truc­tion, soit vers la conquête de l’uni­vers. » « Tout droit, a confir­mé Musk. La fin de l’uni­vers est iné­luc­table, mais tout ce qui compte, c’est de quelle fa­çon nous y ar­ri­ve­rons. » Cet homme qui a tel­le­ment peur de l’ex­tinc­tion de notre es­pèce avait eu alors un pe­tit rire. Comme l’a écrit Lo­ve­craft, « même des plus grandes hor­reurs, l’iro­nie est ra­re­ment ab­sente ». �

« CE­LUI QUI DISPOSERA DU BOU­TON STOP SE­RA LE PRE­MIER QU’IL FAU­DRA TUER. » Elon MUSK

P H OTO G R A P H I E JO N A S F R E DWA L L K A R L S SO N

3 4 1 2 5

Newspapers in French

Newspapers from France

© PressReader. All rights reserved.