Démocratie Le livre qui a secoué la Silicon Valley « L’Age du capitalisme de surveillance » de la sociologue américaine Shoshana Zuboff décrit le nouvel ordre économique imposé par les Gafam, et met au jour un système qui menace la démocratie comme nos âm

“L’Age du capitalisme de surveillance” deviendra-t-il le “Capital” de l’ère numérique? En décrivant le nouvel ordre économique imposé par les Gafam, la sociologue américaine Shoshana Zuboff met au jour un système qui menace la démocratie comme nos âmes

Cela fait des mois qu’on en entend parler. Depuis sa sortie il y a un an aux EtatsUnis, le livre de Shoshana Zubo a été loué, commenté et discuté largement au-delà des limites habituelles d’un texte sur le numérique. Barack Obama lui-même en a fait une de ses lectures préférées de l’année 2019, c’est dire…

Pourtant, à première vue, la thèse de cette chercheuse américaine, professeure à Harvard et spécialiste des technologies depuis la fin des années 1980, ne brille pas par sa foncière originalité. Elle postule que nous sommes entrés dans un « nouvel ordre économique » consistant en l’extraction et l’exploitation de données personnelles par les géants de la Silicon Valley – Google, Facebook, Amazon, Microsoft, etc. Elle appelle ça « le capitalisme de surveillance », et l’explique sur 600 pages.

Sauf que voilà, maintenant que sa traduction française paraît et qu’on en a lu autre chose que des fragments, on peut le dire : c’est un grand livre. Un de ces livres qui posent un jalon, un livre à partir duquel

on peut discuter, un livre qui donne de notre monde une idée qu’on ne s’était pas exprimée aussi clairement jusque-là.

Shoshana Zuboff ne se contente pas de poser un concept sur le système – déjà très documenté – installé par les géants de l’économie numérique. Elle l’inscrit dans une histoire et montre en quoi il est une rupture. Le capitalisme de surveillance prolonge un modèle éprouvé – captation des ressources, concentration du capital entre quelques mains, mépris pour la loi et toute forme de régulation – mais sur des bases radicalement nouvelles. Car la matière première du capitalisme de surveillance n’est plus la nature et ses ressources ou la force de travail des humains mais ce que Zuboff nomme le « surplus comportemental ». Par là, elle entend ce qui est déduit de l’expérience humaine – quand nous faisons une recherche dans Google, quand nous écrivons ou likons sur Facebook, quand nous interagissons avec notre assistant vocal Amazon, quand nous utilisons un GPS –, ce qui est amassé, travaillé par des algorithmes pour fabriquer des « profils » qui sont vendus à des annonceurs pour cibler leur publicité. C’est le modèle économique des grands capitalistes d’aujourd’hui que sont Jeff Bezos, Larry Page et Sergey Brin ou Mark Zuckerberg – ainsi que tous les milliardaires inconnus qui participent à cet écosystème numérique. Or il nécessite – de la même manière qu’on s’est mis dans les années 1970 à équiper les animaux de balises pour suivre leurs déplacements sans les perturber – de nous mettre sous surveillance, discrètement.

Cette surveillance discrète est une autre rupture avec le vieux capitalisme. Ainsi l’auteure montre-t-elle comment, à la « division du travail » qui caractérisait l’ère précédente, a succédé la « division de l’apprentissage » : autrement dit, ce n’est plus le travail qui est divisé, mais le savoir. Nous ne savons pas comment est extrait ce « surplus comportemental », nous ne savons quelle est vraiment sa nature, et ce qu’il en est fait. Nous ne le savons pas parce que les capitalistes de la surveillance en gardent le secret. Mais de la même manière que la division du travail a bouleversé l’organisation sociale il y a cent cinquante ans, la nôtre est travaillée par cette division : nous ne sommes plus en mesure de répondre aux trois questions essentielles : « Qui sait? Qui décide? Qui décide de qui décide? » Ces questions qui interrogent à la fois un ordre politique (car la démocratie, c’est précisément savoir qui décide, et décider de qui décide), et un ordre existentiel. Le capitalisme de surveillance remet en question la possibilité même d’exercer un libre arbitre dans la mesure où il ne vise pas seulement à exploiter et à prédire nos comportements, mais à les modeler, à les inciter, dans le but de les rendre plus prévisibles, et par conséquent plus profitables. Ce qui disparaît n’est donc pas seulement la possibilité de la démocratie, c’est aussi la liberté, l’incertitude, la faculté de construire un futur autre que celui qu’on a programmé pour nous.

Le propos de Shoshana Zuboff est, on peut le constater, très ambitieux. Il pourrait même paraître hors-sol s’il n’était pas arrimé à des études de cas très détaillées. Ainsi de la longue partie consacrée à Google. Car l’entreprise de Mountain View fut pionnière en capitalisme de surveillance, l’équivalent de Ford dans l’ère précédente. L’auteure revient sur le moment où les deux fondateurs – brillants étudiants de Stanford – cessèrent d’utiliser « les données comportementales dans le seul but d’améliorer le service des utilisateurs, mais plutôt pour déchiffrer l’esprit des utilisateurs en vue de faire correspondre les publicités à leurs centres d’intérêt, une fois ces centres d’intérêt déduits des traces collatérales du comportement en ligne ». Elle raconte très précisément la manière dont Google revendique et obtient des « espaces de non-droit » pour imposer des outils très intrusifs au motif de l’inévitabilité du progrès technique, et en colonisant le milieu politique. Elle explique brillamment comment a été construit un écosystème où tout (Gmail, Google Street View, l’enceinte connectée Home, le système d’exploitation de smartphone Android…) sert à rendre plus précis le profilage sans que l’utilisateur ne s’en rende compte. Les longues pages qui relatent la création de Google Maps (ainsi que, plus tard, le jeu Pokémon Go, imaginé par le même homme, John Hanke, dans le seul but d’amener les joueurs dans des magasins « partenaires ») sont édifiantes. Ces plongées – que multiplient Zuboff – non seulement illustrent sa thèse de manière étincelante,

LA POSSIBILITÉ DE CONSTRUIRE UN FUTUR AUTRE QUE CELUI QU’ON A PROGRAMMÉ POUR NOUS EST EN TRAIN DE DISPARAÎTRE.

mais sont de haletants récits d’une histoire industrielle récente dont on ignore souvent les dessous.

Une des grandes forces de Zuboff est de toujours contextualiser : « Le capitalisme de surveillance a été inventé par un groupe spécifique d’êtres humains en un lieu et à une époque spécifiques. Ce n’est ni un résultat inhérent à la technologie numérique ni une expression nécessaire du capitalisme de l’information. Il a été construit intentionnellement à un moment précis de l’histoire, de façon très similaire à la production de masse inventée en 1913, à Detroit, par les ingénieurs et bricoleurs de Ford Motor Company. » Ce lieu, c’est la Silicon Valley et son idéologie libertarienne. Les êtres humains, ce sont des gens comme Sheryl Sandberg, qui exporte le modèle publicitaire de Google à Facebook, faisant franchir encore une étape à l’exploitation de notre vie privée. Et l’époque, c’est le début des années 2000, où la conjugaison de l’éclatement de la bulle internet et des attentats du 11-Septembre crée les conditions pour que la surveillance devienne une source de profit. Tout cela, la chercheuse américaine le restitue de manière très convaincante.

Une autre force de Shoshana Zuboff est d’étendre son sujet – déjà très large – à son maximum. Ainsi d’un détour, dont on ne perçoit pas immédiatement le sens, par les conquistadors du xvie siècle. Ils avaient, nous raconte Zuboff, une croyance – très utile – en la performativité de leur parole, qui leur permettait d’annoncer à leurs souverains que les autochtones leur étaient soumis (alors même qu’ils n’étaient pas encore conquis) et qui leur faisait déclarer aux Amérindiens leurs devoirs envers leur nouveau maître par une longue récitation en espagnol, avant de les passer au fil de l’épée. Quel rapport avec le capitalisme de surveillance? Un comportement identique envers les populations à conquérir.

Car, que sont les immenses « conditions générales d’usage (CGU) » brandies devant nos yeux quand nous nous inscrivons sur une plateforme, si ce n’est la forme contemporaine des incompréhensibles récitations des conquistadors ? Elles ne sont pas là pour être lues (Zuboff rappelle que si nous le faisions, en y ajoutant tous les tous contrats connexes mentionnés par ces CGU, il nous faudrait plusieurs semaines), mais seulement pour signifier notre soumission. C’est qu’au fond, toutes les conquêtes ont des points communs, des formes qui se répercutent de siècle en siècle, de terrain en terrain…

On ne trouve pas beaucoup à redire au travail de Shoshana Zuboff. Si ce n’est une question : faut-il accorder tant de crédit aux promoteurs des technologies? Bien des propos les plus inquiétants que rapporte l’auteure quant aux performances des outils de surveillance – et des programmes qui agrègent et interprètent les données – proviennent de ceux qui les fabriquent ou les vendent : grands patrons, ingénieurs en chef, etc. Cela renseigne sur les intentions, mais ne donne pas forcément une idée très précise des résultats. Or, on est en droit de douter que ces derniers soient toujours à la hauteur des premières. Par exemple, quand on analyse l’affaire Cambridge Analytica non plus seulement du point de vue de ce qu’il a été possible aux équipes de Trump de faire avec les données de Facebook (et qui est en effet très inquiétant : cibler des messages au bloc d’immeuble près, les personnaliser en fonction des conversations de l’internaute, etc.), mais du point de vue de l’efficacité, on est plus circonspect. Les études menées par le grand juriste de Harvard Yochai Benkler sur les élections de 2016 aux Etats-Unis ont plutôt montré que l’incidence directe de ces campagnes numériques sur le vote restait à établir. On pourrait en dire autant de ce qu’on appelle l’« intelligence artificielle », dont les réussites avérées, quand on y regarde dans le détail, sont pour l’instant restreintes à des champs spécifiques. L’histoire des technologies est un cimetière de révolutions qui n’ont jamais eu lieu.

Loin de nous l’idée de suspecter Shoshana Zuboff de crédulité, encore plus de minimiser la puissance de son livre. Osons juste l’hypothèse que ce qui est décrit comme un système implacable est en réalité parcouru de failles, d’erreurs (comme tout logiciel contient nécessairement des bugs) et de fantasmes technophiles. Qu’ait été mis en place un écosystème de captation des données personnelles est une évidence, qu’il génère des monceaux d’argent est une certitude, que les dirigeants de la Silicon Valley rêvent de faire de nous des marionnettes aux gestes et affects prévisibles est documenté, qu’ils dépensent des milliards, soient prêts à contourner toutes les législations et mobilisent les cerveaux les plus performants pour y arriver est vérifié. En revanche, qu’ils y parviennent vraiment est beaucoup moins sûr, tant l’humain demeure, heureusement, mystérieux, et son environnement, changeant. Faut-il pour autant se rassurer ? Le simple fait de tendre vers ce but peut faire d’énormes dégâts. C’est le sens qu’on peut donner à la question posée par Shoshana Zuboff : « Si le capitalisme industriel a dangereusement perturbé la nature, quels ravages le capitalisme de surveillance pourrait-il causer à la nature humaine? »

■

Professeure émérite à la Harvard Business School et professeure associée à la Harvard Law School, SHOSHANA ZUBOFF s’intéresse aux nouvelles technologies depuis la fin des années 1980. Son livre sur les « smart machines », sorti en 1988, est devenu une référence. Vingt ans plus tard, elle publie un nouvel ouvrage majeur : « L’Age du capitalisme de surveillance », dont la traduction française paraît le 15 octobre, aux éditions Zulma.