Les limites de la boîte noire

Les algorithmes ne font pas que prévoir le futur. Ils le façonnent.

5 dollars la photo du visage. Mais uniquement pour les individus noirs de peau. Voilà la proposition incongrue faite aux SDF d’Atlanta par des intérimaires missionnés par Google en septembre dernier aux États-Unis. L’affaire rapportée par des journaux américains – ‘Daily Mail’ et ‘New York Times’ en tête – a fait grand bruit. Qu’est-ce qui a pu donc pousser l’une des plus importantes compagnies de la planète à s’abandonner à une telle entreprise en catimini ? Réponse : améliorer l’algorithme de reconnaissance faciale qui motorise le déverrouillage du dernier téléphone de la firme. Algorithme, le mot est lâché. Digital oblige, ils s’immiscent chaque jour davantage dans nos vies. De plus en plus puissants, ils régulent même notre quotidien. Pour le meilleur comme pour le pire...

5 dollars la photo du visage. Mais uniquement pour les individus noirs de peau. Voilà la proposition incongrue faite aux SDF d’Atlanta par des intérimaires missionnés par Google en septembre dernier aux États-Unis. L’affaire rapportée par des journaux américains – ‘ Daily Mail’ et ‘New York Times’ en tête – a fait grand bruit. Qu’est-ce qui a pu donc pousser l’une des plus importantes compagnies de la planète à s’abandonner à une

Un algorithme est un ensemble de règles et d’instructions écrites pour faire quelque chose

Ils simplifient la tâche et permettent avec une certaine efficacité d’automatiser des traitements répétitifs à grande échelle qui sans leur concours auraient monopolisé individus et compétences

telle entreprise en catimini ? Réponse : améliorer l’algorithme de reconnaissance faciale qui motorise le déverrouillage du dernier téléphone de la firme. Algorithme, le mot est lâché. Digital oblige, ils s’immiscent chaque jour davantage dans nos vies. De plus en plus puissants, ils régulent même notre quotidien. Pour le meilleur comme pour le pire.

La rupture du machine learning

Les algorithmes sont présents dans l’esprit des Français mais de façon assez confuse. Si 83 % en ont déjà entendu parler, ils sont plus de la moitié à ne pas savoir précisément de quoi il s’agit, selon un sondage mené par l’Ifop pour la Cnil. L’analogie la plus communément utilisée pour faire comprendre est celle de la recette de cuisine. Il existe une variante : celle de la partition musicale. En effet, un algorithme est un ensemble de règles et d’instructions écrites pour faire quelque chose. La méthode n’est pas nouvelle. Au contraire, elle est même très ancienne (voir encadré). L’algorithmie, c’est-à-dire la science des algorithmes, a été remise au goût du jour avec l’essor de l’Internet et l’éruption de la data. Ces règles sont nourries par les données, le fameux big data, que tout un chacun produit et dissémine quotidiennement sur les sites et plateformes depuis son ordinateur et son smartphone. Quand ces algorithmes ont la particularité d’être conçus de sorte que leur comportement évolue dans le temps, en fonction des données qui leur sont fournies, on parle d’apprentissage automatique (machine learning) et d’intelligence artificielle. Voilà où nous en sommes depuis la victoire symbolique de l’ordinateur Alpha Go sur le champion du monde de jeu de Go. Chaque minute, sans nous en rendre compte, nos gestes nourrissent les algorithmes des services numériques qui nous entourent. Par exemple, le signalement par les usagers de messages considérés comme indésirables permet à Gmail de constituer une base de données à partir de laquelle le système apprend et détermine les caractéristiques des messages “spams” pour mieux les bloquer. La plateforme de vidéo à la demande Netflix dope son service avec l’algorithme Random Forest qui suggère à l’utilisateur des contenus en rapport avec ce qu’il apprécie. Vous avez aimé ‘House of cards’ alors vous apprécierez ‘Narcos’. Selon toute probabilité.

Répartir, prédire, aider, recommander, optimiser

Les algorithmes remplissent différentes fonctions. Ils peuvent d’abord servir à produire ou générer des résultats. C’est le job du célèbre algorithme PageRank qui organise les réponses du moteur de recherche Internet de Google.

Autre usage : le matching permettant de répartir l’offre et la demande. Désormais bien connu du grand public, l’algorithme ParcourSup remplit cette fonction en attribuant aux diplômés de l’enseignement secondaire une place dans l’enseignement supérieur. Affelnet remplit la même tâche d’affectation, cette fois-ci des collégiens vers le lycée.

Troisième vocation : la prédiction. Pour rester dans le domaine de l’éducation, des sociétés proposent des outils pour détecter le décrochage scolaire. Les RH ne manquent pas de sollicitations non plus : certaines solutions estiment même pouvoir détecter les démissions. Quant aux algorithmes de prédiction météorologique, ils ont fait leurs preuves. Très récemment, les ingénieurs de Google ont mis au point une intelligence artificielle capable de traiter des images satellites à une vitesse si rapide qu’elle prédirait la météo avec une actualisation de cinq minutes à peine. Quatrième fonction : l’aide à la décision. Ces algorithmes sont par exemple très nombreux dans le domaine de la santé où, bien entraînée, une intelligence artificielle serait bien meilleure qu’un oeil humain pour détecter des tumeurs sur des radiographies. En France la Haute autorité de santé met déjà à disposition des médecins une plateforme pour identifier rapidement si un patient est éligible à une hospitalisation à domicile en fonction de certains critères communiqués par les soignants. Cinquième usage : la recommandation. À l’instar de Netflix dans l’audiovisuel, Amazon suggérera à l’internaute des produits pouvant déclencher une commande en fonction des achats déjà réalisés sur sa plateforme. Enfin, les algorithmes permettent d’optimiser les processus. Uber dispose d’une redoutable formule de tarification dynamique du prix des courses. Le coût du transport varie en fonction de la demande.

Ce qui a par exemple fait exploser les prix des VTC Uber pendant les grèves, alors que les tarifs des taxis “traditionnels” n’ont pas été modifiés. Amazon fait la même chose. Il optimise ses propres tarifs en fonction de ceux des concurrents. Il s’agit là d’être toujours le plus compétitif du marché.

Dans tous les cas, les avantages des algorithmes sautent aux yeux : ils simplifient la tâche et permettent avec une certaine efficacité d’automatiser des traitements répétitifs à grande échelle qui sans leur concours auraient monopolisé individus et compétences. Preuve en est qu’ils trient des centaines de milliers de résultats et formulent des recommandations après avoir examiné des millions de décisions passées. Qui dit mieux ? Ils améliorent au passage les performances de ceux qui en maîtrisent la science. Ce n’est pas un hasard si parmi les entreprises les plus puissantes au monde, nous trouvons des champions de l’algorithmie à l’instar de Google, Amazon ou Facebook. En somme, en mettant nos existences, passées et présentes, en équation pour décoder nos comportements et anticiper nos besoins, ils nous faciliter la vie, et peuvent même parfois nous la sauver. Ainsi va le monde au temps des algorithmes.

Le bémol des biais

Et pourtant, cette prise de pouvoir inquiète. Qu’est-ce qu’on reproche aux algorithmes ? Des excès en tout genre. D’abord sur la forme. C’est le grand sujet des thèmes associés. Les grandes plateformes audiovisuelles, sociales ou commerciales recourent de plus en plus à des algorithmes prédictifs pour personnaliser le service rendu aux clients et fournir des éléments utiles à une prise de décision. Ces dispositifs peuvent en partie déposséder les individus des choix qu’ils pourraient faire spontanément et ainsi réduire leur libre arbitre, en n’agissant pas simplement comme des mécanismes d’aide à la décision mais comme de véritables systèmes de décision automatique ou semi-automatique. Pour le sociologue des médias Dominique Cardon, les algorithmes peuvent ainsi nous enfermer dans “un entonnoir du probable”. Autre excès : celui de la censure. Programmés pour lutter contre la pornographie sur les réseaux sociaux, certains algorithmes souffrent de choix peu pertinents. Voilà ce qui a amené

Facebook à supprimer de ces pages la peinture ‘L’Origine du monde’ de Gustave Courbet ou la photographie d’une petite vietnamienne nue brûlée au napalm, symbole de l’horreur de la guerre. Sur le fond ensuite, les dérapages des formules mathématiques sont également légion. La raison ? Tout algorithme a besoin de données pour produire des résultats, et la qualité des données détermine la qualité des résultats. “Garbage in, garbage out”, observent les AngloSaxons. Autrement dit “foutaises en entrée, foutaises en sortie”.

Ainsi, que se passe-t-il si les données sont erronées ou biaisés ? La propension des algorithmes et de l’IA à générer des biais peut en effet conduire à créer ou à renforcer des discriminations ou des exclusions. Cet écueil s’est récemment imposé comme le sujet d’inquiétude et de questionnement numéro 1 dans le débat public. Car un algorithme n’est jamais “neutre” dans la mesure où il est toujours le reflet des données qui lui ont été fournies. “Un algorithme est une opinion embarquée dans des mathématiques et des statistiques”, a résumé Xavier

Perret de Microsoft à l’occasion des Sommets du Digital organisé récemment à Paris. Ainsi plusieurs catégories de biais colonisent les territoires de l’intelligence artificielle. Cognitifs d’abord, quand les résultats des algorithmes dépendent du système de valeurs des programmeurs qui les ont écrits. Statistiques ensuite, où les exemples sont nombreux comme en 2015 quand des chercheurs américains ont constaté que la plateforme publicitaire de Google générait un biais au détriment des femmes en matière d’emploi. L’algorithme leur proposant des offres moins bien rémunérées que celles adressées à des hommes, à niveau similaire de qualification et d’expérience. Aux États-Unis par exemple, des travaux ont mis en évidence que les populations afro-américaines étaient plus souvent pénalisées par les décisions de justice qui s’appuient sur le recours aux algorithmes. Économiques enfin, comme quand il a été révélé qu’Amazon avait exclu de son nouveau service de livraison gratuite en un jour des quartiers abritant majoritairement de populations défavorisées. À l’origine, un algorithme avait mis en évidence, en analysant les données à sa disposition, que les quartiers en question n’offraient guère de possibilités de profit pour l’entreprise. Comment limiter biais, discrimination et autres exclusions ? Voilà la question du moment. Un travail d’explication s’impose. Pour la mathématicienne Cathy O’Neil*, “les algorithmes doivent intégrer de meilleures valeurs conformes à l’éthique. Des normes doivent être respectées. Et comme les responsables politiques ont interdit le travail des enfants pendant la révolution industrielle, il conviendrait d’imposer de l’équité et de l’éthique dans cette révolution”.

Un algorithme n’est jamais “neutre” dans la mesure où il est toujours le reflet des données qui lui ont été fournies. “Un algorithme est une opinion embarquée dans des mathématiques et des statistiques”, a résumé Xavier Perret de Microsoft

De plus en plus puissants, ils régulent même notre quotidien. Pour le meilleur comme pour le pire...

Tout algorithme a besoin de données pour produire des résultats, et la qualité des données détermine la qualité des résultats. “Garbage in, garbage out”