Quand l’algorithme contrôle tout : un danger pour les travailleurs des plateformes
L’avènement de plateformes comme Uber ou UberEats a démocratisé un phénomène aujourd’hui au coeur de nos économies : le management algorithmique, autrement dit l’encadrement et l’évaluation constante des travailleurs par des algorithmes. Problème : derrière la neutralité affirmée par les plateformes, se cachent aussi des biais discriminatoires soumettant les travailleurs à une forte pression à la connexion. L’absence de médiation humaine peut également conduire à des licenciements abusifs que les travailleurs concernés n’ont aucun moyen de contester auprès des plateformes. Face à ce constat, la mission d’information sur l’ubérisation, qui s’est tenue au Sénat du 22 juin au 29 septembre, a tenté de proposer des solutions pour protéger les travailleurs de ces plateformes. Explications.
Des femmes chauffeurs Uber moins bien payées que les hommes parce qu’elles conduisent moins vite, des livreurs à la merci de l’arbitraire des clients qui n’hésitent pas à faire du chantage à la note, parfois à caractère sexuel..., telles sont les conséquences de la place omniprésente des algorithmes dans le mode de fonctionnement des plateformes : ils contrôlent tout... ou presque.
Un phénomène amplifié par l’absence de médiation humaine pour compenser les carences du “management algorithmique”, au coeur du modèle des plateformes, qui pose de véritables problématiques, d’ordre économique, social, mais aussi psychologique, puisque les travailleurs subissent une forte pression à la connexion et s’exposent même, chez Uber, à des licenciements automatiques en refusant certaines courses. Derrière leur apparente “objectivité technologique”, les algorithmes jouent donc un rôle central dans les transformations du monde du travail.
Quand l’algorithme contrôle tout : un danger pour les travailleurs des plateformes
« Il ne s’agit pas d’un outil neutre », martèle Pascal Savoldelli, rapporteur de la mission d’information sur l’ubérisation, qui a rendu ses conclusions le 29 septembre.
Une affirmation contestée par Deliveroo, dont le porte-parole en France, Damien Steffan, rejette la notion de management algorithmique, qui est selon lui « une erreur de diagnostic ». De son côté, Uber n’a pas souhaité répondre à nos questions et s’est contenté d’un mail laconique, se limitant à ré-expliquer le principe de fonctionnement de la plateforme et à rassurer sur ses engagements.
Le management algorithmique est pourtant l’objet principal du rapport de la mission sur l’ubérisation, lequel conclut: « In fine, le management algorithmique contribue à renforcer la subordination vécue par les travailleurs des plateformes et à précariser leurs conditions de travail ».
Par quels mécanismes l’intelligence artificielle produit-elle donc des biais néfastes aux travailleurs des plateformes? Quels sont les moyens envisageables pour en limiter la portée? Telles sont les questions auxquelles la mission d’information sur l’ubérisation, mise en place par le Sénat le 22 juin dernier, a tenté d’apporter des réponses, en s’appuyant sur les auditions de représentants de plateformes, de syndicats ainsi que de la ministre du travail, Elisabeth Borne.
Des notations biaisées des travailleurs des plateformes
Premier problème identifié: les algorithmes des plateformes comme Uber ne détectent pas les biais discriminatoires.
« Ils constituent un outil que nous considérons comme politique, avec tous les biais que cela comporte, notamment en termes de discrimination », a déclaré Pascal Savoldelli, lors de la présentation des conclusions de la mission, au cours de laquelle il a également appelé à « ouvrir la boîte noire des algorithmes des plateformes ».
Bien qu’il y ait des interactions en face-à-face entre prestataires et bénéficiaires du service intermédié via les plateformes, la notation octroyée par les clients aux travailleurs Uber est uniquement recueillie via des moyens digitaux. Pas d’humain dans la loupe, donc, pour prendre en compte différents facteurs ou donner un certain niveau de subjectivité au processus.
Ces notations ayant un impact sur la capacité du travailleur à procurer des services, l’absence de médiation humaine ouvre un boulevard à des jugements biaisés et libérés qui sont immédiatement propagés par la plateforme, comme l’a démontré une étude britannique de 2019. Le classement généré par ces notations est ensuite utilisé par le système pour déterminer quel conducteur envoyer pour une course, pénalisant ainsi les chauffeurs ayant fait l’objet d’une notation biaisée et donc injuste. À noter toutefois une différence de fonctionnement entre les plateformes: chez Deliveroo, à la différence d’Uber, les livreurs ne sont pas notés et seule la prestation fait l’objet d’une notation sur le site des restaurants.
Interrogé sur des cas concrets où interviennent ces biais, Pascal Savoldelli a cité les discriminations sexistes qui s’accompagnent parfois d’un chantage à la note.
« J’ai eu connaissance de témoignages de femmes travaillant sur ce type de plateformes et étant victimes de propos sexistes, voire de menaces de recevoir une mauvaise note, si elles refusaient d’accepter les avances de certains clients. Il est alors très difficile de contester ce type d’évaluations négatives auprès de la plateforme », explique-t-il à La Tribune.
Et le constat vaut également pour les discriminations raciales, qui interviennent elles aussi très fréquemment sur ces plateformes où les travailleurs, pour la plupart en situation précaire, sont exposés à une haine décomplexée. Vendredi 14 mai dernier, la soirée de Yaya, 34 ans, livreur UberEats à Laval, a par exemple tourné au cauchemar. En chemin pour aller livrer une commande, cet homme originaire de Guinée-Conakry reçoit deux messages sur son téléphone: « Dépêche-toi, esclave », suivi d’un « Je vais te donner un centime tu ne mérites que ça », témoigne-t-il alors au Figaro.
Des propos racistes qui sont monnaie courante pour les travailleurs des plateformes, et peuvent parfois conduire à des notations arbitraires, dont les algorithmes ne détectent pas les biais. « Le client dit ce qu’il veut et après UberEats bloque ton compte », ont ainsi fait part à FranceInfo certains livreurs de la plateforme, souvent victimes d’insultes racistes. Et si la plateforme Uber a mis en place en juin dernier un bouton anti-discrimination à disposition des clients et livreurs afin de lutter contre ce phénomène, cette mesure ne résout pas le problème des notations et de la “dictature” des algorithmes sur ces plateformes.
Écart salarial de 7% entre femmes et hommes chauffeurs Uber
Sur la question de l’écart salarial de 7% entre hommes et femmes chauffeurs Uber, démontré par une étude menée par des chercheurs de l’université de Stanford, il s’avère en effet que
Quand l’algorithme contrôle tout : un danger pour les travailleurs des plateformes
les femmes chauffeurs Uber empochent en moyennent 20,04 dollars de l’heure quand les hommes touchent en moyenne 21,28 dollars. Une différence qui s’explique par trois facteurs.
D’une part, le fait que les femmes sont plus novices sur la plateforme puisqu’elles sont arrivées en moyenne depuis moins de cinq ans, et ont donc une connaissance moindre de l’algorithme, qui fait qu’elles distinguent moins les courses à accepter des autres (par exemple pour limiter les temps d’attente non rémunérés entre deux courses).
D’autre part, d’après l’étude, un chauffeur qui a déjà effectué 2.500 trajets pour les clients de la plateforme Uber gagnerait en moyenne 14% de plus par heure que ceux qui n’ont pas dépassé la barre des 100 trajets. Les femmes ayant globalement moins d’expérience sur la plateforme que les hommes chauffeurs, il en résulte mécaniquement un écart de salaire.
Enfin, autre explication pour le moins surprenante: la vitesse de conduite. L’article de Forbes “Quand l’Algorithme d’Uber Pénalise Les Femmes”, qui prend appui sur cette étude, évoque ainsi que « l’algorithme prévoit une sorte de prime à la rapidité qui désavantage les femmes ». Concrètement, sachant que les hommes roulent en moyenne 2,2% plus vite que les femmes et peuvent donc enchaîner davantage de commandes, ils bénéficient de fait d’un revenu plus élevé.
Des licenciements automatiques abusifs
Outre les biais discriminatoires et les inégalités salariales, un problème majeur réside dans les licenciements abusifs résultant à la fois du manque de transparence des algorithmes et du manque de recours possible pour les travailleurs des plateformes. Dans le cas où des travailleurs Uber refuseraient certaines courses, l’algorithme peut les licencier directement. En 2020, certains chauffeurs britanniques travaillant pour Uber avaient d’ailleurs porté plainte contre la plateforme aux Pays-Bas (où se trouve son siège numérique), accusant Uber de les avoir licenciés automatiquement.
Et cette situation est aussi une réalité en France. Fin 2020, certains chauffeurs Uber français avaient ainsi dénoncé une situation similaire, affirmant s’être vu bannir de la plateforme du jour au lendemain sans raison, alors qu’ils travaillaient pour la plateforme depuis des années. « J’ai commencé ma journée à 6h du matin, j’ai fait trois courses et j’ai éteint l’appli pour faire une pause. Quand je l’ai rallumée, j’étais bloquée », avait ainsi témoigné une chauffeur qui s’était vue bannir d’Uber en octobre dernier alors qu’elle était notée 4.94/5. D’après une enquête qu’avait menée le syndicat INV (Intersyndicale Nationale
VTC), 90% des chauffeurs déconnectés interrogés travaillaient alors pour Uber depuis deux ans ou plus et 80% avaient été déconnectés sans avertissement.
En cause de leur déconnexion ? L’algorithme de la plateforme avait détecté des « activités frauduleuses » (exemple: refuser une course à un certain prix) et avait donc automatiquement supprimé leur compte. Cela sans qu’aucune médiation humaine n’ait eu lieu et sans que la plateforme n’ait même informé les chauffeurs de la raison exacte de leur licenciement pour motif « frauduleux ». En juillet 2020, la plateforme Uber a même rajouté une annexe à ses conditions d’utilisation, précisant qu’elle « peut restreindre de manière définitive » l’accès à l’application « sans motif particulier et à tout moment ». Concrètement, un chauffeur ayant fait l’objet d’une plainte de la part d’un client pour agression physique ou verbale peut donc voir son compte désactivé par Uber ou UberEats, sans même avoir connaissance de la raison de cette suspension.
Dans cette situation, le manque de transparence de l’algorithme et la quasi-impossibilité pour les chauffeurs concernés de contester l’accusation via la plateforme, renforcent de fait leur précarisation et vont à l’encontre de l’article 22 de la RGPD européenne, qui garantit entre autres « le droit de ne pas faire l’objet d’une décision juridique fondée exclusivement sur un traitement automatisé ».
Des risques psychosociaux
Autre problématique soulevée par la mission: les risques psychosociaux induits par la forte pression pour la connexion. Le rapport écrit de la mission fait d’ailleurs état de cette situation, indiquant que « les risques physiques et psychosociaux subis par les travailleurs des plateformes produisent des conséquences terribles ».
Les travailleurs des plateformes - comme les chauffeurs Uber sont en effet soumis à une injonction constante à être connectés pour accepter des courses, réalité qui est un peu différente chez Deliveroo où un livreur peut « refuser quinze courses d’affilée et s’en voir proposer une seizième par la plateforme », selon son porte-parole Damien Steffan. Pour éviter de voir leur compte désactivé, les chauffeurs ou livreurs Uber n’ont donc souvent « pas suffisamment de temps pour prendre leur décision », puisqu’ils doivent en général « accepter les courses dans un laps de temps de 15 secondes, sans avoir connaissance de la destination ou du tarif prévu pour la course », si l’on en croit une étude menée par Rosenblat et Stark en 2016.
Quand l’algorithme contrôle tout : un danger pour les travailleurs des plateformes
Conséquence ? Certains se retrouvent pris dans un rythme effréné de travail et enchaînent les courses, souvent au détriment de leur santé physique et mentale.
« Pour beaucoup de travailleurs, avoir un revenu décent implique de se connecter à plusieurs plateformes. Or la pression à la connexion est énorme et a des conséquences importantes sur la santé », a fait valoir Pascal Savoldelli lors du compte-rendu de la mission d’information.
À cela s’ajoute l’évaluation permanente -et potentiellement biaisée- de l’activité des travailleurs des plateformes, qui tend à renforcer le niveau de pression lié à leur travail. Sur ces aspects, Pascal Savoldelli a fait part de son inquiétude quant à l’absence d’intervention humaine pour réguler les algorithmes.
« Si aucune mesure n’est prise pour permettre une médiation humaine sur les algorithmes des plateformes, on risque de créer une société de serviteurs et de servitude », a-t-il notamment avancé.
Quelles solutions possibles ?
Force est donc de constater que les défaillances du management algorithmique produisent des conséquences économiques, sociales et psychologiques sur les travailleurs des plateformes, auxquelles il apparaît urgent de remédier.
Face à cette situation, la mission sur l’ubérisation a appelé à considérer les algorithmes comme « une chaîne de responsabilité humaine » pour « mieux lutter contre leurs effets discriminatoires ». À cette fin, la mission propose d’imposer l’effacement régulier des notes attribuées par les clients aux travailleurs, afin que des notations biaisées ne puissent pas impacter sur la durée les travailleurs concernés.
La mission s’est également dite favorable à permettre aux représentants élus des travailleurs des plateformes d’accéder à un document expliquant clairement et simplement le fonctionnement de l’algorithme auquel leurs collègues et eux-mêmes sont soumis. En effet, les algorithmes sont « conçus et générés par des humains dont les stéréotypes, en se répétant automatiquement, peuvent engendrer des discriminations », si l’on se réfère aux conclusions de la mission. Une maîtrise humaine permanente est également souhaitée par celle-ci, qui estime que le contenu des algorithmes des plateformes doit impérativement être « objet de négociations ».
Si le rapport de la mission d’information sur l’ubérisation ne constitue pour l’heure qu’un point d’étape articulant des propositions pour pallier aux défaillances du management algorithmique, reste à voir si la notion d’algorithmes fera son entrée dans le Code du travail, comme le réclame aujourd’hui la mission, et si le reste des propositions seront prises en compte dans les projets de loi à venir relatifs aux travailleurs indépendants.
Lire aussi Ubérisation: les travailleurs indépendants des plateformes vont-ils devenir salariés ?