Trom­per ef­fi­ca­ce­ment re­pose sur l’ex­ploi­ta­tion des biais in­cons­cients de la cible.

Books - - 22 FAITS & IDÉES À GLANER DANS CE NUMÉRO -

lop­peurs de myPer­so­na­li­ty as­surent que ces tests, com­bi­nés à d’autres don­nées, per­mettent de pré­voir le ni­veau de bie­nêtre d’un in­di­vi­du.

L’idée di­rec­trice du World Well-Being Pro­ject est que nous ne de­vrions pas nous fier à notre ju­ge­ment sub­jec­tif, for­cé­ment dé­fec­tueux, sur ce qui va nous rendre heu­reux ou sur le che­min sus­cep­tible de don­ner sens à notre vie. On lit sur le site du pro­jet : « Notre es­poir est qu’à terme nos in­tui­tions et ana­lyses ai­de­ront les in­di­vi­dus, les or­ga­ni­sa­tions et les États à prendre des me­sures et à choi­sir des po­li­tiques qui ne soient pas seule­ment dans l’in­té­rêt éco­no­mique des gens ou des en­tre­prises mais amé­liorent réel­le­ment leur bien-être. » Mais la ques­tion est de sa­voir com­ment une telle am­bi­tion est com­pa­tible avec le sou­ci de pré­ser­ver sa li­ber­té. Car la ma­ni­pu­la­tion des pré­fé­rences dicte dé­sor­mais la com­mer­cia­li­sa­tion des ana­lyses com­por­te­men­tales et est consub­stan­tielle à l’économie nu­mé­rique qui mo­dèle une bonne par­tie de notre exis­tence.

En 2007 et 2008, Kah­ne­man a ani­mé une mas­ter­class sur le thème « Pen­ser ce que c’est que pen­ser », à la­quelle ont par­ti­ci­pé, entre autres, Jeff Be­zos (le fon­da­teur d’Ama­zon), Lar­ry Page (Google), Ser­gey Brin (Google), Na­than Myhr­vold (Mi­cro­soft), Sean Par­ker (Fa­ce­book), Elon Musk (Space X, Tes­la), Evan Williams (Twit­ter) et Jim­my Wales (Wi­ki­pe­dia). Lors de la mas­ter­class de 2008, Ri­chard Tha­ler est in­ter­ve­nu pour par­ler de ses « coups de pouce ». Sur les vi­déos en ligne, on le voit dé­crire des ar­chi­tec­tures de choix qui guident vers tel ou tel com­por­te­ment mais per­mettent au su­jet de re­ve­nir sur sa dé­ci­sion en un clic s’il n’est pas sa­tis­fait du ré­sul­tat. On voit Kah­ne­man, pour sa part, ex­pli­quer aux en­tre­pre­neurs de la Si­li­con Val­ley les ver­tus du pri­ming (l’amor­çage, le fait de com­men­cer par ins­tal­ler une at­mo­sphère fa­vo­rable) : c’est se­lon lui l’un des do­maines les plus im­por­tants de la re­cherche en psy­cho­lo­gie, une tech­nique consis­tant à pré­sen­ter des sti­mu­li sub­li­mi­naux (par exemple faire dé­fi­ler des vi­sages sou­riants sur un écran à une ca­dence telle qu’ils sont in­dé­tec­tables) de fa­çon à in­fluer sur l’état d’es­prit et la conduite des usa­gers. L’amor­çage in­duit des ré­flexes co­hé­rents et pré­vi­sibles, donc ex­ploi­tables. Si les su­jets ne sont pas conscients de l’in­fluence ain­si exer­cée, leur li­ber­té d’y ré­sis­ter pa­raît plus théo­rique que réelle.

Les pa­trons de la Si­li­con Val­ley ont bien sûr com­pris l’usage com­mer­cial qu’ils pou­vaient faire de ces tech­niques, qui sont de­ve­nues par­tie in­té­grante de leur ac­ti­vi­té. Tha­ler et Sun­stein ont pu­blié sur leur site consa­cré aux « coups de pouce » (nudges.org) un en­tre­tien avec John Ken­ny, co­fon­da­teur de l’Ins­ti­tute of De­ci­sion Ma­king, dans le­quel il dit : « On ne peut pas com­prendre le suc­cès de pla­te­formes nu­mé­riques comme Ama­zon, Fa­ce­book, Farm­ville ou Nike Plus si on ne com­prend pas les prin­cipes de l’économie com­por­te­men­tale. »

Dans une lettre à ses ac­tion­naires da­tant d’avril 2015, Jeff Be­zos as­sure que les ven­deurs d’Ama­zon jouissent d’un avan­tage com­mer­cial consi­dé­rable, car, « grâce à notre pro­gramme Sel­ling Coach, nous gé­né­rons un flux conti­nu de “coups de pouce” au­to­ma­ti­sés (plus 70 mil­lions pour une se­maine type) ». Dif­fi­cile d’ima­gi­ner que ces 70 mil­lions de « coups de pouce » laissent aux clients d’Ama­zon toute li­ber­té pour ne pas suivre, après ré­flexion, la di­rec­tion dans la­quelle ils ont été orien­tés.

Fa­ce­book a aus­si sui­vi le che­min tra­cé par Kah­ne­man et Tha­ler, ce qui lui a va­lu une pu­bli­ci­té né­ga­tive. En 2012, les cher­cheurs de sa Core Data Science Team, as­so­ciés à des scien­ti­fiques de l’uni­ver­si­té Cor­nell et de l’uni­ver­si­té de Ca­li­for­nie à San Fran­cis­co, avaient ex­pé­ri­men­té le pri­ming émo­tion­nel au­près de quelque 700 000 usa­gers qui n’en avaient pas été in­for­més. L’ob­jet était de voir si la ma­ni­pu­la­tion de leur fil d’ac­tua­li­té leur fe­rait ré­di­ger des pu­bli­ca­tions plus po­si­tives ou né­ga­tives. Quand la chose fut ré­vé­lée en 2014, le sen­ti­ment gé­né­ral fut qu’il s’agis­sait d’une forme in­ac­cep­table de ma­ni­pu­la­tion psy­cho­lo­gique. Fa­ce­book se dé­fen­dit en fai­sant va­loir que les condi­tions d’uti­li­sa­tion ac­cep­tées par les usa­gers du ré­seau so­cial au­to­ri­saient ce type d’ex­pé­rience.

Na­than Myhr­vold, l’an­cien di­rec­teur de la tech­no­lo­gie de Mi­cro­soft qui par­ti­ci­pa à la mas­ter­class de Kah­ne­man en 2007, a tra­vaillé par la suite pour la so­cié­té de conseil créée par Kah­ne­man,TGG Group. D’après son site In­ter­net, cette so­cié­té se pro­pose de « dé­voi­ler le sa­voir ca­ché dans le big data », de « conce­voir […] des ar­chi­tec­tures de choix » et de « ré­duire le bruit dans la prise de dé­ci­sion » (au­tre­ment dit éli­mi­ner les in­co­hé­rences créées au sein des or­ga­ni­sa­tions par les ju­ge­ments sub­jec­tifs contra­dic­toires). Le site Web en ques­tion ne donne pas la liste des clients de TGG, mais on sait que Deutsche Bank a été du nombre. Con­ju­guée au big data, la science du com­por­te­ment est de­ve­nue un ou­til ex­tra­or­di­nai­re­ment puis­sant pour les ac­teurs de l’économie et de la fi­nance, et Kah­ne­man n’est pas res­té à l’écart de ces ap­pli­ca­tions. Le livre de Le­wis s’achève sur la son­ne­rie du té­lé­phone dans le sé­jour de Kah­ne­man un ma­tin d’oc­tobre 2002 : on lui an­nonce l’at­tri­bu­tion du prix No­bel avec Tvers­ky. Mais l’his­toire de la fa­çon dont leurs idées et le big data sont en train de trans­for­mer si­len­cieu­se­ment la so­cié­té ne fait que com­men­cer.

De­puis l’élec­tion sur­prise de Do­nald Trump, plus per­sonne ne croit que la science du com­por­te­ment oeuvre à un monde meilleur. Comme le re­con­naît le conseiller et gendre de Trump Ja­red Ku­sh­ner, son équipe a adop­té la stra­té­gie dé­crite par Le­wis dans Mo­ney­ball » 7. Les équipes d’Oba­ma et de Hilla­ry Clin­ton ont certes l’une et l’autre ex­ploi­té les ré­seaux so­ciaux, l’ana­lyse de don­nées et un ci­blage af­fi­né pour pro­mou­voir leur mes­sage, mais, se­lon Forbes, l’équipe de Trump est al­lée plus loin, « ex­ploi­tant la per­son­na­li­sa­tion des mes­sages, la ma­ni­pu­la­tion des sen­ti­ments et l’ap­pren­tis­sage au­to­ma­tique ». Exa­gé­ré ? Ce­la re­flète bien, en tout cas, les ta­lents af­fi­chés par Cam­bridge Ana­ly­ti­ca, une en­tre­prise bri­tan­nique fi­liale de SCL Group, à la­quelle l’équipe de Trump a fait ap­pel. Cam­bridge Ana­ly­ti­ca, dont le conseil d’ad­mi­nis­tra­tion a ac­cueilli Steve Ban­non, l’ex-stra­tège en chef de Trump, est aus­si te­nue res­pon­sable par la presse de la vic­toire du non

au ré­fé­ren­dum sur le Brexit de juin 2006. Dans une pré­sen­ta­tion in­ti­tu­lée « Le pou­voir du big data et de la psy­cho­gra­phie », dis­po­nible sur YouTube, son P-DG, Alexan­der Nix, af­firme que Cam­bridge Ana­ly­ti­ca a com­bi­né les tests de per­son­na­li­té Ocean avec les don­nées col­lec­tées sur les ré­seaux so­ciaux afin de pro­duire des « pro­fils psy­cho­gra­phiques » (mo­dèles pré­dic­tifs des traits de per­son­na­li­té) pour chaque Amé­ri­cain adulte. Ils l’ont fait sans le consen­te­ment des in­ven­teurs de la tech­no­lo­gie, Mi­chal Ko­sins­ki et Da­vid Still­well, qui animent le Centre de psy­cho­mé­trie de l’uni­ver­si­té de Cam­bridge. Nix af­firme que sa so­cié­té dis­pose de 4 000 à 5 000 don­nées sur chaque élec­teur, grâce au croi­se­ment des tests de per­son­na­li­té et de don­nées « at­ti­tu­di­nales », comme le rythme et la com­po­si­tion des dé­penses par carte de cré­dit, les pré­fé­rences de consommation, les « J’aime » sur Fa­ce­book et les ac­ti­vi­tés as­so­cia­tives et po­li­tiques.

Il y a un cu­rieux dé­pha­sage dans la pré­sen­ta­tion de Nix, quand il dit d’une part que des cen­taines de mil­liers de per­sonnes ont rem­pli les ques­tion­naires de Cam­bridge Ana­ly­ti­ca et d’autre part que son en­tre­prise dis­pose de don­nées sur chaque Amé­ri­cain adulte. Soit il se vante, soit il y a une en­quête à faire sur les moyens uti­li­sés pour dis­po­ser d’une telle masse d’in­for­ma­tions. Quoi qu’il en soit, il as­sure pou­voir uti­li­ser les don­nées re­cueillies par sa so­cié­té avec des co­okies, des don­nées four­nies par des câ­blo­pé­ra­teurs et d’autres ou­tils pour ci­bler des pu­blics par­ti­cu­liers avec des mes­sages ef­fi­caces car fon­dés sur la science du com­por­te­ment.

Pour illus­trer ces mé­thodes « com­por­te­men­tales » de per­sua­sion, Nix donne l’exemple d’un pro­prié­taire de plage pri­vée qui sou­haite en in­ter­dire l’ac­cès. Il peut dé­ci­der de mettre un pan­neau « in­for­ma­tion­nel » des­ti­né à ins­truire les com­por­te­ments, du genre « La plage pu­blique s’ar­rête ici : pro­prié­té pri­vée ». Ou bien il peut cher­cher à « tes­ter une mo­ti­va­tion beau­coup plus puis­sante », en met­tant un pan­neau « At­ten­tion, re­quins ». La crainte d’être dé­vo­ré par un re­quin se­ra plus ef­fi­cace, dit Nix. Des vi­déos réa­li­sées par l’Ins­ti­tut de dy­na­mique com­por­te­men­tale, le dé­par­te­ment re­cherche de Cam­bridge Ana­ly­ti­ca, pré­sentent des stra­té­gies qui en ap­pellent di­rec­te­ment aux peurs et dé­si­rs la­tents, dans le sillage de l’économie com­por­te­men­tale, mais qui, pour in­fluen­cer les mo­ti­va­tions du sys­tème 1, n’hé­sitent pas à user de men­songes ou de de­mi-vé­ri­tés.

Comme l’a mon­tré Sa­sha Is­sen­berg dans un livre pa­ru en 2012, « Le la­bo de la vic­toire. La science se­crète des campagnes ga­gnantes », le re­cours aux tech­niques com­por­te­men­tales et au mi­cro­ci­blage n’est pas nou­veau en po­li­tique. Tous les can­di­dats sont en quête de pro­fils psy­cho­gra­phiques exacts et dé­taillés, et c’est ce que vend Nix. Cer­tains doutent que l’équipe de Trump ait ef­fec­ti­ve­ment uti­li­sé ces tech­niques, même si Cam­bridge Ana­ly­ti­ca af­firme que c’est le cas. Et tout le monde n’est pas convain­cu que les mé­thodes psy­cho­gra­phiques dé­crites par Nix soient réel­le­ment ef­fi­caces 8.

Il est im­pos­sible de vé­ri­fier les af­fir­ma­tions d’en­tre­prises comme Cam­bridge Ana­ly­ti­ca, car il n’y a pas de groupe de contrôle mais seule­ment des don­nées d’ob­ser­va­tion am­bi­guës ob­te­nues dans un en­vi­ron­ne­ment confus. Ce­la ne si­gni­fie pas que la pré­fé­rence ac­cor­dée à la ma­ni­pu­la­tion in­cons­ciente sur une in­for­ma­tion pou­vant être sou­mise à un exa­men cri­tique ne consti­tue pas une me­nace pour la dé­mo­cra­tie.

Que les af­fir­ma­tions de Cam­bridge Ana­ly­ti­ca soient vraies ou pas, l’exis­tence même d’en­tre­prises de ce type nous en dit long sur le poids qu’exercent dé­sor­mais les in­fluences in­cons­cientes dans les campagnes po­li­tiques. Le TGG Group de Kah­ne­man n’oeuvre pas dans le sec­teur de l’in­fluence po­li­tique. Mais se­lon Is­sen­berg, en 2006, une struc­ture pri­vée de l’uni­ver­si­té de Ca­li­for­nie à Los An­geles, le Con­sor­tium des scien­ti­fiques com­por­te­men­ta­listes, qui com­pre­nait Kah­ne­man et Tha­ler, en­tre­prit de per­sua­der les dé­mo­crates qu’ils au­raient in­té­rêt à ex­ploi­ter la science du com­por­te­ment. Le groupe est res­té confi­den­tiel, par crainte des ré­ac­tions. Au­jourd’hui, les stra­té­gies com­por­te­men­ta­listes ont en­va­hi le pay­sage et se mènent au grand jour. On ne parle plus de « pro­pa­gande » mais d’« ap­proche com­por­te­men­ta­liste de la com­mu­ni­ca­tion per­sua­sive avec ré­sul­tats quan­ti­fiables » [Lire « Les ha­bits neufs du mar­ke­ting po­li­tique », p. 31].

Des en­tre­prises comme SCL Group af­firment dis­po­ser de l’arme pour ga­gner des com­bats idéo­lo­giques à grande échelle. Dans une vi­déo, Ni­gel Oakes, le pa­tron de SCL Group, fait une pré­sen­ta­tion au Dé­par­te­ment d’État amé­ri­cain au nom d’une de ses fi­liales, SCL De­fence. Il ex­plique que les an­non­ceurs clas­siques qui s’adressent à des in­di­vi­dus et captent 0,6 % du mar­ché sont consi­dé­rés comme très per­for­mants. Mais la com­mu­ni­ca­tion stra­té­gique, se­lon lui, doit ci­bler des groupes. « Ce­la ne sert à rien d’avoir 0,6 % de Sy­riens qui vous sou­tiennent, ou 0,6 % d’Al-Qaï­da. Il faut convaincre des com­mu­nau­tés en­tières. » La par­tie de la vi­déo où il ex­pose ses mé­thodes n’est pas ac­ces­sible.

Il s’agit là d’une pré­ten­tion exor­bi­tante – même si cette en­tre­prise bé­né­fi­cie d’une réelle ex­pé­rience de ter­rain, grâce aux opé­ra­tions psy­cho­lo­giques me­nées par Steve Ta­tham, un an­cien of­fi­cier de la Bri­tish Na­vy. Il a tra­vaillé avec An­drew Ma­ckay, le com­man­dant des forces bri­tan­niques en Af­gha­nis­tan, pour ga­gner le sou­tien de la po­pu­la­tion dans des zones qui avaient été « dé­vas­tées par l’ac­ti­vi­té ci­né­tique », à l’aide de tech­niques de per­sua­sion dé­ri­vées de l’économie com­por­te­men­ta­liste et adap­tées au théâtre d’opé­ra­tions.

Plu­sieurs de ces tech­niques avaient été sug­gé­rées par Kah­ne­man et Tvers­ky dans un ar­ticle de 1995 in­ti­tu­lé « Ré­so­lu­tion des conflits : une pers­pec­tive cog­ni­ti­viste ». Ta­tham et Ma­ckay ra­content dans un livre com­ment ils ont ex­ploi­té ces tech­niques dans la guerre af­ghane 9. Ils ont fait ap­pel à la théo­rie des pers­pec­tives et consta­té que pour les po­pu­la­tions lo­cales la crainte de perdre en­core da­van­tage était plus forte que l’es­poir d’en­gran­ger des bé­né­fices. Mal­gré son im­por­tance stra­té­gique, la re­cons­truc­tion du bar­rage de Ka­ja­ki, par exemple, était

une pers­pec­tive trop éloi­gnée pour li­mi­ter les ac­ti­vi­tés re­belles alen­tour. Il fal­lait trou­ver des in­ci­ta­tions plus im­mé­diates. Les ré­flexions de Kah­ne­man et Tvers­ky sur la « sa­gesse des foules » leur ont ser­vi pour une prise de dé­ci­sion au sein d’une chou­ra (as­sem­blée de chefs de vil­lage), où il s’agis­sait de don­ner un pou­voir de dé­ci­sion à des in­di­vi­dus ayant « des idées justes mais une très faible au­to­ri­té ».

Im­pos­sible ce­pen­dant d’ob­te­nir des don­nées sur le suc­cès de ces ini­tia­tives, vu l’opa­ci­té des fac­teurs psy­cho­lo­giques im­pli­qués et la grande dif­fi­cul­té de com­pa­rer avec des groupes té­moins. Quand ceux qui en­tendent per­sua­der une po­pu­la­tion ar­rivent avec des chars, des fu­sils et des drones, et que la po­pu­la­tion elle-même est di­vi­sée, il n’est pas fa­cile de dé­ter­mi­ner dans quelle me­sure la co­opé­ra­tion en­ga­gée avec les forces d’oc­cu­pa­tion est le ré­sul­tat de tech­niques com­por­te­men­ta­listes. Nous ne dis­po­sons pas de don­nées scien­ti­fiques per­met­tant d’éva­luer à quel point des mi­li­taires peuvent in­fluen­cer le com­por­te­ment de groupes sur une large échelle de ma­nière non coer­ci­tive dans une zone de conflit. Et reste à prou­ver qu’il est pos­sible d’ob­te­nir l’adhé­sion de la ma­jo­ri­té de la po­pu­la­tion dans un État quel­conque. SCL Group, qui se pré­vaut de maî­tri­ser l’art d’in­fluen­cer tant en ligne que sur le ter­rain, a néan­moins si­gné l’hi­ver der­nier un contrat de 500 000 dol­lars avec le Dé­par­te­ment d’État. Se­lon The Wa­shing­ton Post, il a aus­si né­go­cié avec l’ad­mi­nis­tra­tion Trump pour « ai­der le Pen­ta­gone et d’autres or­ga­nismes pu­blics sur des pro­grammes de dé­ra­di­ca­li­sa­tion ».

L’idée de « pa­ter­na­lisme li­ber­ta­rien », en ver­tu de la­quelle les ou­tils des nou­velles sciences du com­por­te­ment res­tent aux mains de man­da­rins li­bé­raux bien­veillants, pa­raît com­plè­te­ment dé­pas­sée. Dans un en­vi­ron­ne­ment de plus en plus conflic­tuel et in­stable, il im­porte de se pen­cher sur notre ca­pa­ci­té à ré­gu­ler les usages de la science du com­por­te­ment, de tes­ter la va­li­di­té de la re­cherche fon­da­men­tale qui la sous-tend et de sur­veiller les mo­ti­va­tions po­li­tiques ou fi­nan­cières des ini­tia­tives com­por­te­men­ta­listes de toute na­ture.

Les formes non ra­tion­nelles de per­sua­sion n’ont bien sûr rien de neuf. Mais, aux yeux de beau­coup de psy­cho­logues so­ciaux, Kah­ne­man et Tvers­ky offrent une théo­rie pro­fon­dé­ment ori­gi­nale de l’es­prit hu­main, qui met en évi­dence des sources sys­té­ma­tiques et in­cons­cientes de l’ir­ra­tio­na­li­té, rap­pe­lant la fa­çon dont des gé­né­ra­tions pré­cé­dentes de psy­cho­logues se sont em­pa­rées de l’idée freu­dienne de l’in­cons­cient. L’idée que la psy­cho­lo­gie so­ciale et l’économie com­por­te­men­tale sont en­ra­ci­nées dans une re­cherche fon­da­men­tale so­lide donne l’im­pri­ma­tur du der­nier état de la science aux mil­lions d’ini­tia­tives com­por­te­men­ta­listes en­tre­prises au­jourd’hui dans le monde.

Quand le livre de Kah­ne­man Sys­tème 1, sys­tème 2 est pa­ru en 2011, il a sus­ci­té des com­pa­rai­sons avec les in­no­va­tions de Des­cartes, de Dar­win et de Freud. Mais ce­la fait long­temps que des phi­lo­sophes ex­priment des doutes sur le mo­dèle kah­ne­ma­nien des deux sys­tèmes. Dès 1981, L. Jo­na­than Co­hen pu­bliait un ar­ticle in­ti­tu­lé « L’ir­ra­tio­na­li­té hu­maine peut-elle être dé­mon­trée ex­pé­ri­men­ta­le­ment ? ». Il y ex­pri­mait dif­fé­rentes cri­tiques à l’égard des tra­vaux de Kah­ne­man et Tvers­ky. Celle qui

L’en­tre­prise bri­tan­nique Cam­bridge Ana­ly­ti­ca pos­sède 4 000 à 5 000 don­nées sur chaque élec­teur, af­firme son P-DG, Alexan­der Nix. L’équipe de Do­nald Trump a fait ap­pel à ses ser­vices.

Newspapers in French

Newspapers from France

© PressReader. All rights reserved.