QUI VEUT LA PEAU DE L'ALGO ?

Les algorithmes sont décriés car ils ont l'image de « boîtes noires » impossibles à comprendre et, a fortiori, à contrôler. Par Philippe Boyer, directeur relations institutionnelles et innovation à Covivio.

Il souffle comme un vent de révolte. Un peu comme si les humains avaient décidé de ne plus se laisser commander et manipuler par les algorithmes. Il faut dire que ces derniers ont envahi presque tous les domaines de nos vies numériques : achats sur le Web, déplacements, sécurisation, loisirs, santé... Les algorithmes, ces programmes plus ou moins complexes destinés à faire tourner les simulations et les calculs des ordinateurs[1], sont partout, et ceci pour le meilleur comme pour le pire. Décrits par l'auteure américaine Cathy O'Neil[2] comme des «ADM », entendez « Armes de Destruction Mathématiques », les algorithmes ont comme perdu de leur superbe et ne sont plus à la hauteur des grandes espérances d'une technologie salvatrice.

MATCH « HUMAINS VS ALGORITHMES »

Depuis que l'on a réalisé que ces programmes, écrits par des Hommes, ne l'oublions pas, pouvaient aussi contenir d'importants biais pouvant générer des situations inégalitaires, inéquitables..., des mouvements de défiance et de révolte, sont apparus sous de multiples formes. Ici, de façon violente, suite à l'arrestation de Robert Williams à Detroit[3]. Dans cette affaires, les algorithmes de ce logiciel ont considéré, à tort, que la photo de cet homme ressemblait presqu'en tous points à celle d'un autre, en l'occurrence un voleur de montres arrêté grâce à des logiciels de reconnaissance faciale gavés d'algorithmes, comme il se doit. Ailleurs, d'autres actions moins radicales ont également vu le jour. Toutes ou presque ayant pour objectifs de se jouer des algorithmes pour rappeler que dans le match « Humains VS algorithmes », ce sont les premiers qui doivent garder la main.

L'artiste Simon Weckert l'a démontré en se promenant sur une route avec une remorque remplie de smartphones. Objectif de cette performance loufoque ? Tester les limites et piéger l'algorithme de Google Maps en faisant croire au service de cartographie que les rues par lesquelles l'artiste tirait sa charrette étaient saturées de voitures. La chose était déjà connue depuis que, sur Waze, certains utilisateurs avaient déjà réussi à manipuler l'algorithme en signalant de faux accidents pour détourner le trafic. Un autre exemple de contournement de la froide rationalité de ces programmes avec, très récemment, le canular visant à saboter un meeting électoral de campagne Donald Trump[4] en détournant le système d'inscription pour générer une surestimation de l'affluence à l'événement. Pour ces jeunes, fins connaisseurs du fonctionnement des algorithmes, une distraction tout autant qu'un acte politique. Autant d'actes de rebelion contre les machines accusées de nous manipuler « à l'insu de notre plein gré ».

DÉMYSTIFIER LES ALGORITHMES

Très souvent accusés d'opacité, les algorithmes effraient. Ils renvoient l'image d'une mécanique difficile, voire impossible à comprendre, qui, in fine, échappe aux humains même si ce sont bien des humains qui en sont à l'origine. Outre que ce fantasme renvoie à l'image d'une intelligence artificielle dite « forte », celle qui est régulièrement mise en scène dans les films de science-fiction, la réalité c'est que derrière ce mot d'algorithme, on ne comprend pas ce qui s'y cache. La chose est connue : c'est lorsque l'on ne comprend pas que l'on simplifie à l'extrême et que l'on tombe dans la caricature. A l'inverse, il a par exemple suffi que l'on sache ce qui « se cachait » dans l'algorithme Parcoursp pour que l'on comprenne, au moins dans ses grandes lignes[5], la logique d'orientation à l'oeuvre quitte, au passage, à repérer ses défauts inhérents de logique pouvant être à l'origine de biais.

L'idée n'est pas tant que chacun puisse devenir un/une spécialiste des lignes de codes qui font tourner tel ou tel algorithme mais bien, et comme le recommande la scientifique Aurélie Jean, de « fantasmer (sur les algorithmes), mais sur de bonnes base[6] ». Comment ? Notamment en éclairant les citoyens que nous sommes tous sur la compréhension de ces mécaniques technologiques qui font désormais partie de nos vies. En clair, fournir un minimum d'éducation algorithmique. Outre que cela permettrait, dès le plus jeune âge, d'en comprendre les mécanismes internes, cela pourrait aussi avoir pour mérite de sécuriser nos libertés fondamentales face à des Etats tentés d'avoir recours à la puissance de ces nouvelles technologies assises sur des algorithmes de plus en plus sophistiqués.

Il y a un an, disparaissait Michel Serres. Cet extraordinaire philosophe des sciences ne manquait jamais une occasion de démystifier les choses d'apparence compliquées et de plaider pour que les scientifiques deviennent des philosophes et les philosophes des scientifiques. Bref, que les savoirs se croisent afin d'éviter que nos sociétés se peuplent de cultivés ignorants ou de savants incultes. Exactement ce qu'il faudrait pour sauver la peau de l'algo.

___

NOTES [1] Voir à ce sujet l'ouvrage d'Aurèlie Jean, De l'autre côté de la machine, Editions de l'Obsrvatoire [2] Algorithmes, La bombe à retardement - Cathy O'Neil, Editions Les Arènes

[3] https://choice.npr.org/index.html?origin=https://www.npr.org/2020/06/24/882683463/thecomputer-got-it-wrong-how-facial-recognition-led-to-a-false-arrest-in-michig

[4] https://www.lemonde.fr/international/article/2020/06/21/des-utilisateurs-de-tiktok-revendiquent-lesabotage-du-meeting-de-trump_6043657_3210.html

[5] https://www.sciencesetavenir.fr/high-tech/informatique/bac-2018-l-algorithme-de-parcoursupexplique-par-les-deux-chercheurs-qui-l-ont-concu_124407

[6] https://youtu.be/Haq7ax0EGHE