La modération sur Facebook
Récemment, le journal britannique The Guardian rendait publics des documents révélant des directives à l’intention des modérateurs du fil Facebook. Les révélations rendues possibles par la fuite montrent le caractère parfois arbitraire des directives données à ceux et celles à qui incombe la tâche de décider ce qui peut ou non demeurer en ligne sur Facebook. C’est aussi une occasion d’envisager l’ampleur des difficultés de surveiller les contenus que des millions d’usagers souhaitent partager.
Des principes généraux
Les documents révélés par The Guardian, rédigés par Facebook à l’intention de ses usagers et de ses modérateurs, énoncent des principes généraux. Par exemple, les menaces sont interdites. Mais difficile de situer la ligne entre le propos de mauvais goût et la menace sérieuse. Les directives de Facebook aux modérateurs expliquent qu’il faut tenir compte du contexte. Mais dans un environnement planétaire, de quel contexte faut-il tenir compte ?
Par-dessus tout, ces directives indiquent l’ampleur de la difficulté de «modérer». Car ici, il s’agit de propos émanant de personnes provenant de toutes sortes de milieux. Des contextes dans lesquels se manifestent des sensibilités ou des pathologies couvrent tout le spectre allant du banal à l’extrême violence. Dans un tel magma informationnel, comment faire la part des choses entre ce qui peut être «partagé» et ce qui doit être impérativement tenu hors de la vue de chacun des internautes ?
L’immensité du défi est telle qu’on ne peut pour ce genre de « modération » s’en remettre aux innombrables sensibilités qui peuvent exister chez les milliards d’internautes en mesure de voir ce qui est affiché sur le réseau social. Car en additionnant toutes les réticences que les uns et les autres pourraient ressentir à la vue d’un contenu, on aurait vite fait de tout bloquer !
Modérer selon quelles normes?
C’est pourquoi, à l’égard de ces contenus hétéroclites, la loi est la seule référence fiable pour établir ce qui peut demeurer en ligne et ce qui doit être bloqué. Les seuls documents qui peuvent être légitimement retirés sont ceux qui contreviennent aux lois démocratiquement adoptées. Mais même à ce niveau, les difficultés restent considérables. À ce jour, Facebook semble s’aligner sur ce que permettent les lois américaines. Ses pratiques semblent refléter les sensibilités nord-américaines à l’égard de certains types d’images «indécentes». Cela expliquerait la censure pratiquée il y a quelques années pour des images d’allaitement maternel ou de certaines oeuvres d’art montrant des parties intimes du corps.
Mais tant qu’on s’en tient à exiger que les images prohibées par la loi soient retirées du fil d’actualité, la modération peut paraître gérable. Mais au nom de quoi censurer des images grotesques qui, en elles-mêmes, ne contreviennent pas aux lois ?
Par exemple, le journal Le Monde rapportait les propos d’une porte-parole de Facebook qui soulignait les difficultés de modérer les contenus : «Parfois, nos règles peuvent paraître contre-intuitives ». Elle commentait alors la directive fondée sur les recommandations d’experts consistant à autoriser la diffusion en direct de vidéos d’automutilation dans le but d’aider la personne.
Comment, dans un environnement où se présentent des millions d’images à l’heure, départager la représentation d’un suicide dans un extrait de film de fiction et la représentation par un internaute de sa propre mort en direct? Il paraît difficile d’imaginer comment pratiquer une modération satisfaisante pour tous dans cet environnement conçu pour fonctionner à partir des décisions éditoriales des usagers.
Perfectionner
Le mieux qu’on puisse espérer est que Facebook perfectionne ses pratiques afin de détecter le contenu qui contrevient clairement aux lois des pays dans lesquels circulent les textes, les sons et les images. Et déjà, cela pose d’importantes difficultés: au nom de quelle logique faudrait-il que les gens vivant dans un pays dans lequel un contenu est permis s’en voient privés en raison du fait que, dans le pays voisin, on trouve ce contenu insupportable? Et l’inverse est aussi vrai.
Le défi de la modération sur Facebook est celui de la régulation de la pensée et du sens. À ce jour, les règles pour départager l’acceptable et le censurable ont été conçues en fonction des États réglementant ce qui se passe sur leurs territoires. Jusqu’à maintenant, on s’attache à évaluer si, dans le contexte socioculturel au sein duquel on doit appliquer la norme, un message comporte les caractéristiques qui permettent de le prohiber. Mais lorsque la diffusion a lieu dans une multitude de contextes, un tel modèle est-il encore possible ?