Le mannequin et l’Internet toxique
Il y a 25 ans, un tribunal français donnait gain de cause à Estelle Hallyday. Des photos intimes de cette femme qui faisait profession de mannequin avaient été mises en ligne par un inconnu. Les juges avaient conclu que cette diffusion non autorisée était fautive et avaient condamné l’entreprise qui hébergeait ces fichiers placés en ligne par un utilisateur introuvable.
L’affaire déclencha un tollé, car la décision tenait responsable l’entreprise qui n’avait fait que procurer un espace numérique à un usager d’Internet pour y placer des fichiers. On invoquait alors l’analogie de l’hôtelier qui ne saurait être tenu pour responsable pour ce qui se déroule dans les chambres qu’il loue.
L’affaire Hallyday a eu de grandes répercussions sur le cadre juridique de ces espaces numériques qui sont depuis devenus des mégaplateformes accueillant des images, des vidéos et des textes de n’importe quel usager. Il y a 25 ans, plusieurs s’inquiétaient du fait que les entreprises qui hébergent des fichiers mis en ligne par les usagers soient tenues responsables, comme le sont les journaux et les radios qui diffusent des contenus illicites. On insistait pour que ces intermédiaires qui accueillent les publications des usagers ne soient pas assujettis au régime de responsabilité qui prévaut pour les médias : un tel statut les aurait placés en position de censurer pour se protéger d’éventuelles poursuites.
Pour répondre à ces craintes et « favoriser l’innovation », des lois qui limitent la responsabilité des intermédiaires ont été mises en place. Dans les législations européennes adoptées dans les années 1990, on a interdit aux États de tenir responsables les plateformes intermédiaires à moins qu’il soit démontré qu’elles ont connaissance du caractère illicite des images, des textes ou des vidéos mis en ligne par un usager.
Le Québec a fait de même en 2001 en se dotant d’une loi innovatrice sur le cadre juridique des technologies de l’information. L’article 22 de cette loi prévoit qu’un intermédiaire comme un réseau social ou un moteur de recherche ne peut être tenu responsable que s’il a connaissance du caractère illicite du propos, de l’image ou d’une vidéo qui se trouve sur son site.
Aux États-Unis, le Congrès est allé encore plus loin. En 1996, il a adopté une loi qui a été interprétée par les tribunaux comme procurant une grande immunité aux intermédiaires. Encore de nos jours, ces sites — devenus des mégaplateformes de réseaux sociaux — ne peuvent être tenus responsables des images et propos dès lors qu’ils ont été mis en ligne par un tiers.
Les abus en ligne
Depuis plusieurs années, les conséquences néfastes des abus en ligne sont documentées. S’agissant de la diffusion non consensuelle d’images intimes, plusieurs États ont adopté des lois qui, à l’instar de l’article 28.1 de la Loi québécoise sur la protection des renseignements personnels dans le secteur privé, obligent les plateformes à retirer les images intimes publiées sans le consentement des personnes représentées.
Mais l’insuffisance des lois encadrant les activités des plateformes persiste à l’égard de beaucoup d’autres questions. Depuis un quart de siècle, on a pu se rendre compte que l’enjeu le plus crucial des plateformes intermédiaires n’est pas le risque de les voir se transformer en censeurs des images et des propos que les utilisateurs y diffusent. Le risque sociétal qu’elles induisent tient plutôt à l’absence d’obligations de transparence à l’égard de leurs algorithmes et des autres procédés techniques qu’elles mobilisent afin, entre autres, de maximiser le temps d’écran.
C’est ce qui a motivé une quarantaine d’États américains à entreprendre une large poursuite contre Facebook, Instagram et TikTok en réclamant d’être dédommagés pour les dépenses publiques qu’ils sont désormais obligés de faire en raison des effets toxiques de la fréquentation des réseaux sociaux, notamment par les jeunes. Des conseils scolaires ontariens et le gouvernement de Colombie-Britannique ont entrepris des démarches dans le même sens.
Ces recours mettent en évidence les effets pervers du modèle d’affaires des plateformes intermédiaires qui tirent profit de la maximisation du temps passé en ligne des usagers. Elles valorisent les données produites par les usagers sans être tenues à des obligations de transparence. Le retard à reconnaître les conséquences sociétales de ce modèle d’affaires explique la lenteur des États à mettre en place des lois pour imposer des conditions aux plateformes en ligne. Pendant ces tergiversations gouvernementales, elles continuent d’engranger de juteux profits en déployant ces algorithmes dont on ne sait rien, sinon qu’ils optimisent leurs profits.
Les limites du statu quo
Un quart de siècle après la saga judiciaire d’Estelle Hallyday, force est de constater les limites des lois qui favorisent les plateformes d’Internet. Pour le meilleur et pour le pire, ces lois ont permis l’essor de l’économie de partage et des plateformes comme Uber et Airbnb. Le modèle a aussi permis l’essor de Pornhub, une plateforme qui à l’origine fonctionnait comme un YouTube de l’érotisme et de la pornographie !
Face à la puissance des procédés déployés par ces entreprises, s’en tenir à préconiser l’« éducation » et la responsabilité des parents est d’une dangereuse naïveté. Cela retarde la mise en place de lois pour garantir que les modèles d’affaires des plateformes en ligne s’adaptent afin de réduire les risques auxquels sont exposées les populations évoluant dans les univers connectés.
En entretenant la croyance selon laquelle tout cela ne serait qu’une question d’éducation et de supervision parentale, on fait le jeu des géants du Web, qui font tout pour empêcher la mise en place de lois qui leur imposeraient des obligations de transparence et de reddition de comptes.