Bienvenue dans la Silicon Macho
Les hommes règnent en maîtres dans la Silicon Valley.
Q ui
connaît Mary Golda Ross, brillante descendante d’un chef cherokee à qui les Etats-Unis doivent une part décisive de leur programme spatial ? Dans quelle histoire officielle figure Jocelyn Bell Burnell, qui découvrit les pulsars en 1967 avant de voir le prix Nobel dû à sa découverte revenir à son directeur de thèse ? Il y a quelques semaines, le prestigieux magazine Science publiait une étude intitulée « La sémantique dérivée automatiquement des corpus linguistiques contient des biais humanisants »(1). Derrière ce titre abscons se cache une découverte très simple : une intelligence artificielle qui écoute des conversations « normales » devient rapidement sexiste et raciste.
Dans cet article, la chercheuse Aylin Caliskan a observé que, dans sa langue natale – le turc –, l’expression « C’est un docteur » n’a pas de genre. Pourtant, Google la traduisait systématiquement par « Il est docteur ». L’apprentissage statistique au contact des textes humains sur Internet avait donc produit une intelligence artificielle biaisée. Jusque-là, rien d’alarmant, mais les sources fines du racisme et du sexisme reposent sur le principe de l’« association implicite » : si, par exemple, on demande à quelqu’un de prononcer sans réfléchir le premier terme qui lui vient à l’esprit après le mot « femme » et qu’il répond « soumise », il existe un corrélat notable – mais non diagnostique – du sexisme dans son esprit. Après avoir étudié 840 milliards de mots sur Internet, le programme de Caliskan et de ses collaborateurs est apparu truffé de préjugés racistes et sexistes.
Quand elle était étudiante, la chercheuse elle-même avait constaté être souvent la seule femme à assiter aux cours d’informatique, d’où sa sensibilité au sujet ; mais son étude, et cette anecdote, révèle une réalité plus générale : la Silicon Valley, qui est à l’avant-garde de nombreux sujets en matière sociale, politique, économique, technologique et parfois philosophique, est devenue de plus en plus masculine avec le temps.
En fait, il y a une plus grande proportion d’entrepreneuses à Chicago – la Mecque du grain et de l’immobilier américain – qu’entre San Francisco et San José. Dès 2014, l’International Business Times rapportait que seuls 30 % des postes de cadres et/ ou techniques était attribués à des femmes chez Google, et 24 % chez Intel. Concernant le sexisme dans la Vallée, les origines invoquées sont multiples, mais une des plus citées est l’émergence du stéréotype selon lequel les femmes ont moins de valeur que les hommes en sciences et techniques. Personne ne se souvient de Maria Salomea Sklodowska, mais on connaît Marie Curie, son nom de mariage. On ignore Rosalind Franklin, la véritable découvreuse de la structure de l’ADN, dont on enseigne encore aujourd’hui qu’elle ressort uniquement de Watson et Crick. Si le journaliste Tony Andrews souligne que la culture vidéoludique a effectivement forgé une démographie d’étudiants machos dans les années 1980 et 1990 – après tout, on a bien parlé de Game Boy –, le problème est plus profond et tient à une réécriture de l’Histoire qui favorise l’impuissance apprise et le vice tragique du « reste-à-ta-place »
1. « Semantics derived automatically from language corpora necessarily contain human-like biases », d’Aylin Caliskan, Joanna Bryson et Arvind Narayanan, n° 356.6334, 14 avril 2017, pp.183-186.
Après avoir étudié 840 milliards de mots sur Internet, le programme est apparu truffé de préjugés sexistes.