Dans la peau d’un nettoyeur du Web
Rencontre avec ces petites mains qui se relaient pour expurger le Net des textes violents et des images d’horreur.
À l’ombre des ténors du numérique, une armée de petites mains se relaient pour expurger le Web des textes violents et autres images d’horreur. Rencontre (intime) avec ces professionnels sous pression, en contact direct avec la noirceur des hommes. Et qui rendent le Net fréquentable.
Le pire job du Web. » C’est par cette formule peu gratifiante que The Wall Street Journal qualifiait récemment le métier de « modérateur » sur Internet. Missionnés pour faire la chasse aux écrits et aux vidéos pornographiques, racistes et violents, ces nettoyeurs à la sauce Léon pataugent dans les tréfonds du Net participatif. Tels des pêcheurs en eaux troubles, ils draguent les abysses sombres et répugnants de l’âme humaine tous les jours que dieu Zuckerberg fait. De 5000 à 10000 messages ou contenus à examiner quotidiennement par personne, ce qui leur donne de trois à cinq secondes en moyenne pour analyser chaque publication suspecte; des horaires décalés pour une activité à effectuer sans relâche, 24 h/24, 7 j/7 ; un salaire qui démarre au Smic chez un prestataire français; une faible valorisation sociale du métier entraînant une baisse de l’estime de soi; et un terrain propice au développement de traumatismes psychologiques. « Quand on commence la journée par des images pédopornographiques ou l’égorgement d’un otage, il ne fait pas de doute que le moral
dévisse », explique Davy, 42 ans, dont la longévité dans le métier – dix ans – témoigne de l’épaisseur du cuir.
Salarié dans la même société française de modération – Netino – depuis une décennie, ce vétéran peut être qualifié de rareté dans un milieu où le turnover s’avère très important. Ancien intermittent du spectacle, ce théâtreux a laissé tomber les textes de Sophocle et de Corneille pour subir des vidéos d’égorgements au Levant et autres joyeusetés après avoir visionné à la télévision un reportage sur les « éboueurs du Web ». « Au début, ce n’était qu’un job alimentaire, ditil. Aujourd’hui, je le trouve gratifiant car, à mon niveau, je veille à ce que n’importe qui puisse s’exprimer librement sur la Toile. »
AU SERVICE DE L’ÉLYSÉE. S’il fait figure d’exception en termes de longévité, Davy ne dépareille pas dans son milieu professionnel, qui attire à lui des profils très variés. Chez Google monde, on trouve d’anciens journalistes, des sociologues, des chercheurs et les membres de certaines ONG (organisations non gouvernementales), censés, par exemple, garder un oeil sur la bonne tenue des chaînes de sa filiale YouTube. Aucun centre n’est localisé en France; le géant du Net emploie des personnels francophones installés à l’étranger. Chez Atchik, société française chargée de modérer, entre autres, le compte Facebook de l’Élysée, un ancien sportif de haut niveau et un écrivain de « livres dont vous êtes le héros » mettent leur sagacité au profit du président Macron. Tous les deux bossent avec des horaires aménagés, qui leur permettent de poursuivre leur activité principale.
« Cette pluralité de profils, nous la recherchons pour satisfaire des clients très différents », avance Steve Bonet, directeur de la communication d’Atchik, prestataire situé à Toulouse. Chacun d’eux met à disposition une charte maison à laquelle les modérateurs se réfèrent. Outre les actions tombant sous le coup de la loi, elle renseigne sur les comportements
autorisés et ceux qui sont interdits. Nombre d’entre eux proscrivent le style SMS et la vulgarité, d’autres, comme ce site spécialisé dans les loisirs, l’expression d’opinions politiques. Les entreprises de veille recrutent à l’aide de tests de culture générale, et délivrent aux impétrants une formation en interne. Pour ne pas les laisser dans le pétrin, elles insistent sur les cas problématiques.
EN PREMIÈRE LIGNE. En effet, il arrive que certains contenus se situent en « zone grise ». Pas toujours évident de faire la différence entre une vidéo de propagande d’une embuscade de Daesh contre l’armée américaine avec, en bande-son, un chant djihadiste, et celle d’un combattant de l’organisation terroriste tué lors d’une rixe publiée par un organe de presse. « Quelle source ? » « Quel support? » « Le contenu a-t-il une vocation éducative? » Le modérateur doit se poser ces questions et agir vite. Même rapidité lors de suicides en direct ou d’attentats. « Nous avons l’obligation légale de mentionner ces actes au responsable éditorial du forum ou du réseau social dont nous avons la charge. Ce dernier est tenu de contacter la plateforme Pharos, où policiers et gendarmes reçoivent les signalements de contenus illégaux sur Internet », explique Boris, 31 ans, dont quatre chez Atchik. Ce qui n’empêche pas, parfois, de modérer au doigt mouillé, et de s’en remettre à son instinct. « Lorsqu’un message ou une vidéo me titille, je me détermine sur la base de l’évidence et du bon sens », explique Davy.
En plus d’avoir les mains dans le cambouis et de se dépatouiller comme ils
peuvent, les modérateurs du Web se retrouvent en première ligne en cas d’erreur de jugement ou de lenteur dans l’exécution d’un retrait. Tels des arbitres de football, ils ne font parler d’eux que lorsqu’ils commettent des fautes. L’opinion publique ne leur pardonne rien. Ni lorsque l’un des leurs censure une mammographie, prenant une campagne de
prévention contre le cancer du sein pour une atteinte à la pudeur. Ni lorsque les images de l’assassinat de 51 personnes par un suprémaciste dans des mosquées nécessitent dix-sept minutes avant d’être supprimées, comme lors de la tuerie de Christchurch, en Nouvelle-Zélande, à la fin de l’hiver dernier. Pris en étau, Davy et ses collègues se retrouvent dans la même position qu’un guichetier, toujours les premiers à se faire engueuler. Pourtant, leur rôle est essentiel. C’est grâce à ces anges gardiens que l’on peut surfer tranquillement sur un Web expurgé de certaines horreurs. Philippe Coen, fondateur de Respect Zone, une association qui milite pour la dignité et la politesse sur Internet, les assimile à des enseignants, montés au front pour désamorcer la haine sur les réseaux. Eva, ayant désiré l’anonymat, se voit comme une arbitre ; Boris, lui, se compare à un policier de proximité.
« Le risque, pour les modérateurs, c’est de tomber dans le dégoût ou le déni. Ne voir que le côté sombre de l’humanité ou ne plus rien percevoir du tout », prévient Catherine Verdier, psychologue s’intéressant à leurs cas. Pour éviter l’un de ces écueils, Davy, l’ancien intermittent du spectacle, cherche à « rester dans la neutralité face à la violence virtuelle », afin de ne pas juger sur le coup de l’émotion; à ne pas prendre pour lui les commentaires négatifs, surtout ceux qui l’assimilent à un censeur; à laisser « les gens s’exprimer autant que possible », et même à expliquer directement par écrit ses choix aux internautes concernés. Au final, il estime oeuvrer pour la liberté d’expression, et non pas pour le ramassage des ordures.
LA CHASSE AUX MOTS SENSIBLES. Aux prises avec un volume de travail sans cesse grandissant, l’intelligence artificielle demeure la meilleure alliée des modérateurs en leur facilitant la tâche. Elle filtre les contenus, surligne les mots-clés sensibles comme « charia », « islam » ou « nazi », et leur attribue un pourcentage de rejet. « Un message comportant le mot ‘bougnoule’ possède 99,9 % de chance d’être rejeté, à moins d’être compris dans une phrase du genre : ‘Arrêtez de les traiter de bougnoules’ », détaille Eva.
Mais l’intelligence artificielle pourrait devenir aussi le pire ennemi des modérateurs en rognant de plus en plus sur leurs prérogatives. Le signalement de contenus illicites, autrefois réalisé entièrement par des humains, est, aujourd’hui, quasiment remplacé par des algorithmes d’apprentissage automatique : ainsi, 77 % des vidéos supprimées entre janvier et mars 2019 sur YouTube l’ont été de cette façon. Et si le futur de leur job consistait demain à dégoupiller les fake news et autres deep fakes, ces redoutables vidéos truquées ayant l’apparence de la vérité, qu’aucune machine n’est encore en capacité de détecter ?