L’erreur est humaine
HOMO NUMERICUS. Comment prenons-nous nos décisions ? Pourquoi nos jugements s’avèrent-ils parfois défaillants ? Et si les machines étaient finalement plus fiables ? Plongée dans les sciences comportementales qui décryptent ce qui parasitent nos jugements en nous donnant l’illusion de la rationalité. Par Philippe Boyer, directeur relations institutionnelles et innovation à Covivio.
Georges Clémenceau était connu pour ses mots d’esprit. En tant qu’homme politique qui prit la décision de signer l’armistice du 11 novembre 1918 et qui représenta la France à la conférence de la paix de Paris réunissant les pays vainqueurs de la Première Guerre mondiale, il eut ce mot que tous ceux qui ont à trancher en prenant des décisions, parfois difficiles, ont expérimenté :
« Pour prendre une décision, il faut être un nombre impair de personnes, et trois, c’est déjà trop. »
Plusieurs siècles avant ce trait d’esprit, l’empereur César le mit en pratique lorsqu’il prit la décision de passer le Rubicon pour retourner à Rome. Le 7 janvier 49 avant notre ère, César et son armée, qui viennent de livrer bataille en Gaule, s’arrêtent au bord de cette rivière qui marque la frontière entre l’Empire romain et la province de Gaule. Suétone, biographe de César, décrivit un homme tourmenté qui, pendant trois jours, pesa le « pour » et le « contre » pour savoir s’il devait « prendre son risque » en outrepassant les ordres du Sénat et ainsi regagner Rome dans le but d’asseoir son pouvoir et, plus tard, devenir Imperator. Une décision qui changea le cours de l’Histoire.
Les tourments de la décision
César s’est-il seulement fié à son intuition » pour prendre sa décision ? Son jugement a-t-il été influencé par des personnes de son entourage, qui auraient pu confondre opinions et faits établis ? César, lui-même, pêchait-il par excès de confiance dans ses propres opinions au point d’être aveuglé par tous les autres signaux qui pouvaient lui indiquer que son entrée dans Rome était une folie ? Autant de questions qui n’auront jamais de réponse sauf que, et sur ces sujets de décisions et de jugements, personnels comme collectifs, les sciences ont progressé et nous éclairent désormais sur nos processus de décisions et sur la
L’erreur est humaine
façon dont nous pouvons nous tromper « à l’insu de notre plein gré ».
Dans un livre récemment publié, « Noise. Pourquoi nous faisons des erreurs de jugement et comment les éviter[1] », les trois auteurs, dont Daniel Kahneman spécialiste en psychologie cognitive et prix Nobel d’économie en 2002 pour ses travaux sur la finance comportementale, analysent les dessous et les tourments de la décision humaine.
Failles de l’esprit humain
Pour ces auteurs, le leitmotiv de leur ouvrage consiste à comprendre le processus qui nous amène à faire des erreurs lorsque nous devons prendre une décision. Tout part de l’idée de « bruit », (« Noise » en anglais, d’où le titre de cet essai). Ce bruit-là n’a rien à voir avec cette sensation perçue par l’oreille mais fait référence à un principe statistique : « Contrairement aux biais qui peuvent être détectés dans les jugements individuels, le bruit ne se perçoit que dans la variabilité d’un grand nombre de jugements, c’est-à-dire dans leur dispersion. » Dit autrement, le bruit est une variable indésirable dans les décisions. En prenant des cas concrets, dont des milliers de jugements rendus sur des délits identiques, l’analyse statistique permet de faire émerger des décisions qui, pour certaines, souffrent de biais, et qui, pour d’autres sont influencées par ces « bruits », ce « parasitage de la décision ». Pour les auteurs : il est possible de moins faire d’erreurs en raisonnant de façon statistique et non de façon causale.
Bruit ambiant
Largement inspiré de l’étude de milliers de décisions de justice, les auteurs distinguent trois sortes de « bruits » qui constituent autant de failles à la rationalité de l’esprit humain. Face à un juge, le prévenu sera soumis à un « bruit de niveau » du fait que certains juges sont, par nature, plus sévères que d’autres. [2] À cela s’ajoute le « bruit de pattern », lié à la personnalité de l’individu qui rend un jugement (tel ou tel juge demandera systématiquement la peine maximale dès lors qu’il y aura violence physique ou récidive...).
Enfin, et comme pour nous rappeler que nous ne sommes que des humains avec nos forces et nos faiblesses, le prévenu devra également compter avec le « bruit occasionnel » qui fait que, pour une affaire identique, le même juge pourra avoir des réactions différentes selon qu’il rendra sa décision alors qu’il est apaisé, fatigué ou stressé... Que l’on soit juge, dirigeant, recruteurs, médecins... quantité de travaux montrent que nous sommes en permanence influencés par de très nombreux
À défaut de se fier à son intuition, faut-il alors se tourner vers le plus grand nombre, ou bien vers des experts, en les sollicitant sur un sujet pour espérer se nourrir de leurs propos pour prendre une bonne décision ? Oui, sans doute. Mais, et là encore, cela doit se faire jusqu’à un certain point. L’effet de polarisation est connu et se manifeste sur les réseaux sociaux. Ces derniers sont des amplificateurs de différences puissants. Lorsqu’un groupe discute, on voit parfois se dessiner une forme extrême d’opinion qui n’était pas présente au début de la discussion, à plus forte raison si des membres de ce groupe se présentent en tant que « sachants » du sujet débattu. La discussion, au lieu d’amoindrir le bruit, aura alors tendance à l’amplifier et, au passage, accentuer les biais des jugements collectifs. Une situation à l’opposé d’une décision réfléchie.
Le recours aux machines ?
Si, nous autres humains, sommes aussi peu « fiables » pour prendre des décisions objectives, qui d’autre pour le faire ? Resteraient les machines qui, via leurs algorithmes et leur intelligence artificielle, « ont un avantage de taille par rapport au jugement humain: l’absence de bruit ». Avec l’explosion du nombre de données disponibles et la vitesse de calcul des machines, en apparence rien de plus simple pour des intelligences artificielles programmées pour le faire que de détecter et de construire des modèles prédictifs qui pourraient s’imposer / suppléer les actions humaines. Dans le domaine de la justice[3], de l’assurance ou de l’éducation, cette « algorithmisation » existe déjà via des processus de décision “automatisés” qui, par exemple, évaluent des lignes de crédit ou l’acceptation d’une candidature dans une université.
L’erreur est humaine
L’algorithme fait des erreurs mais les jugements humains en font beaucoup plus...
Seulement, notent les auteurs, nous continuons à nous méfier des algorithmes et, de ce fait, nous préférons nous fier à la confiance que nous avons en notre jugement, même quand ce dernier produit de moins bons résultats. Pourquoi cette défiance insistante envers les machines ? Essentiellement du fait que nous sous-estimons la quantité de bruit (et donc d’erreur) qui entache nos jugements (humains). Dans ce schéma, nous nous rassurons en comparant les performances des machines à nos propres performances.
S’il arrive que des intelligences artificielles produisent des réponses absurdes, nous prétextons cette erreur pour démontrer que la décision de la machine est stupide et qu’elle n’est pas encore au niveau. Et de conclure en nuançant que la vérité n’est ni dans un camp ni dans un autre : « L’algorithme fait des erreurs, bien sûr. Mais les jugements humains en font beaucoup plus... Il n’existe pratiquement pas de situations dans lesquelles, avec les mêmes informations, les humains soient très mauvais et les modèles très bons.» Comme le faisait remarquer Daniel Kahneman dans une récente interview, « il serait intéressant de pouvoir demander à une intelligence artificielle ce qu’elle pense de nos erreurs, de nos innombrables biais, de ce bruit omniprésent qui parasite tous nos jugements[4]... » En son temps, Kant l’avait pensé autrement en notant que les machines sont utiles tant que les humains sont considérés comme des fins et non des moyens. Si ce n’est plus le cas, les machines deviennent alors inutiles pour la prise de décision.
Hygiène de la décision
Que faire lorsqu’une décision est à prendre ? Avec ou sans connaissance de ces multiples « bruits » qui viennent polluer notre pensée et nos jugements, notre salut serait à trouver du côté d’une « hygiène de la décision » au moyen de méthodes destinées à limiter l’impact de ces bruits. En l’occurrence, tenter de remplacer nos jugements en valeur absolue par un classement en options possibles.
Un vrai travail de statisticien et, accessoirement, un travail sur soi pour éviter que l’ignorance, les biais et les bruits, ne viennent perturber nos décisions. Pourquoi pas... Pour ma part, je pense que je vais continuer à appliquer à la lettre la recommandation de Jules Renard : « Une fois que ma décision est prise, j’hésite longuement. » Pas de doute, l’erreur est humaine...
___
NOTES
1. « Noise - Pourquoi nous faisons des erreurs de jugement et comment les éviter », par Daniel Kahneman, Olivier Sibony et Cass R. Sunstein, Éd. Odile Jacob, oct. 2021
2. En 1981, une étude, ayant consisté à demander à plus de 200 juges fédéraux américains de se prononcer sur les mêmes affaires, avait mis en évidence des écarts importants dans les peines prononcées : https://www.jstor.org/stable/27977138
3. https://www.editions-observatoire.com/content/Les_ algorithmes_font-ils_la_loi
4. https://business.lesechos.fr/entrepreneurs/efficacite-personnelle/0700055204923-le-bruit-face-cachee-de-l-erreurselon-daniel-kahneman-345506.php