Comment les réseaux sociaux tentent de lutter contre les contenus haineux
Accusées de tous les maux, les plateformes numériques prennent une série de mesures pour lutter contre les contenus haineux. Une opération de communication pour rassurer les utilisateurs et les investisseurs. Leur réputation est en jeu
Avec sa tête verte et ses gros yeux, Pepe la Grenouille est devenue la mascotte de l’extrême droite américaine. Son visage expressif accompagne des messages haineux sur les réseaux sociaux, au grand dam de son créateur. Même Donald Trump a utilisé un dessin du célèbre personnage. L’amphibien met Facebook dans l’embarras, qui a finalement décidé de réglementer son utilisation. Les modérateurs du réseau social pourront supprimer certaines images de Pepe, selon des documents internes obtenus le 25 mai par le site d’information Motherboard.
Cette décision s’inscrit dans le cadre d’une offensive plus large. Depuis quelques mois, la firme de Mark Zuckerberg annonce une batterie de mesures pour réduire le pouvoir de nuisance des trolls. Leur passe-temps? Diffuser des messages violents en espérant qu’un internaute morde à l’hameçon. «Lorsqu’une victime est désignée, les trolls agissent au sein d’une meute et expriment librement leurs pensées les plus violentes. La responsabilité individuelle n’opère plus», indique Pauline EscandeGauquié, sémiologue et coauteure du livre Monstres 2.0. L’autre visage des réseaux sociaux. Il s’agit pour les trolls de perturber la conversation, d’envenimer les choses. Mais ils peuvent également être utilisés à des fins de propagande. Le Kremlin a monté son «usine à trolls» qui a indirectement servi Donald Trump durant sa campagne. Longtemps ignorés, ils sont désormais dans le viseur des plateformes numériques.
Position ferme
Lors de sa récente audition devant le Parlement européen, le patron de Facebook a réaffirmé sa volonté d’agir contre ces per- turbateurs. Il mise notamment sur l’intelligence artificielle pour améliorer la détection des contenus problématiques. Afin de limiter les dégâts, il a par ailleurs engagé plus de 7500 modérateurs. Ces petites mains, basées dans le monde entier, ont la responsabilité de supprimer les publications illicites. Le réseau social joue la carte de la transparence. Il a dévoilé pour la première fois des chiffres concernant sa politique de modération. Une tâche titanesque: 3,5 millions de contenus violents ou haineux ont été supprimés au premier trimestre 2018. Parmi ces publications, 86% ont été détectées automatiquement.
Image écornée
Son concurrent Twitter adopte une position tout aussi ferme. La plateforme veut faire disparaître les trolls grâce à un nouvel outil installé par défaut. Le fonctionnement est simple: un algorithme masque les messages des trublions. Pour y accéder, l’utilisateur doit désormais paramétrer son compte de sorte à voir l’ensemble des messages publiés sur le site. Les «personnes contribuant à la sérénité de la conversation» sont quant à elle plus visibles, assure l’entreprise californienne. Cette décision est le fruit de la nouvelle approche présentée en mars par son directeur, Jack Dorsey.
Comment expliquer une telle offensive? La promesse d’un monde ouvert et plus connecté ne contente plus les internautes. L’incompétence des géants du numérique pour modérer la parole haineuse est régulièrement dénoncée. Leurs récentes actions visent ainsi à préserver l’image et la valeur de leur entreprise.
«Le débat a pris une telle ampleur que ces entreprises sont obligées de réglementer l’usage de leur plateforme. Mais dans l’absolu, ce n’est pas dans leur intérêt. Pendant très longtemps, elles ont laissé ces attitudes déviantes se diffuser afin de créer du trafic», estime Pauline Escande-Gauquié. Le cas de Twitter est emblématique: Disney aurait en partie renoncé au rachat de la société à cause du comportement de certains membres de la plateforme. Une galaxie de trolls qui aurait pu nuire à la réputation de l’empire du divertissement.
Action des pouvoirs publics
Les pouvoirs publics haussent également le ton. En Allemagne, une nouvelle loi contre les discours violents vise directement les hébergeurs. Tout réseau social de plus de 2 millions d’utilisateurs qui ne supprime pas sous 24 heures les contenus haineux publiés sur sa plateforme risque une amende de 50 millions d’euros. La mesure est toutefois controversée. Reporters sans frontières a dénoncé les risques de censure «dans la mesure où les réseaux sociaux pourraient être tentés de supprimer plus de contenus pour payer moins d’amendes, ce qui est bien entendu incompatible avec les textes internationaux en matière de droits de l’homme».
En Suisse, le Conseil fédéral s’inquiète de la progression du trolling. «Sur certaines plateformes étrangères, des personnes opèrent même ouvertement en tant que trolls, à titre professionnel, sur mandat de tiers», explique un état des lieux publié en mai 2017. Le réseau social n’est toutefois pas jugé responsable si des messages violents sont partagés. «Le Code pénal s’applique bien en ligne, mais dans des cas comme cela, on ne pourra rendre responsable la plateforme. Il s’agit d’un intermédiaire qui propose un service», confirme François Charlet, juriste spécialisé dans le droit des technologies. Selon lui, une réglementation trop forte présente un risque: encourager les réseaux sociaux à fermer leur site dans certains pays. «Cela poserait un problème en termes de liberté d’expression et de débat public.»