Discursos de ódio nas redes digitais

Aliberdade de expressão é um valor fundamental da democracia, mas não é absoluto. Expressões que atentem contra a própria liberdade de expressão ou outras liberdades fundamentais não podem ser toleradas. Como constatou o filósofo Karl Popper, a tolerância contém um aparente paradoxo: para que uma sociedade se mantenha tolerante, ela não pode tolerar a intolerância. O problema foi intensificado com a emergência das redes sociais.

O equilíbrio entre a liberdade de expressão e o combate à intolerância nas redes foi tema de um estudo do projeto Digitalização e Democracia da Fundação Getulio Vargas (FGV), com o propósito de subsidiar estratégias de enfrentamento aos desafios derivados do ambiente virtual.

A definição do discurso de ódio em si já é um problema de monta. Em sentido amplo, abrange desde ofensas como calúnia, injúria e difamação até o mero insulto. Em sentido estrito, são discursos que incitam à violência.

O Guia de análise de discurso de ódio da própria FGV define discursos de ódio como “manifestações que avaliam negativamente um grupo vulnerável ou um indivíduo enquanto membro de um grupo vulnerável, a fim de estabelecer que ele é menos digno de direitos, oportunidades ou recursos do que outros grupos e indivíduos membros de outros grupos, e, consequentemente, legitimar a prática de discriminação ou violência”. A definição é relevante, por especificar um elemento distintivo em relação às meras manifestações depreciativas: a restrição de direitos, tanto pelo estímulo à discriminação quanto à agressão física.

Os discursos de ódio não foram inventados pelas redes digitais – eles são tão antigos quanto a humanidade –, mas elas criam condições inusitadas para a sua proliferação.

Do ponto de vista do comportamento dos usuários, a anonimidade remove barreiras de responsabilização e diminui a possibilidade de confronto entre o agressor e a vítima. Essa invisibilidade (a não presença visual do agressor e da vítima) facilita as agressões. Ao contrário das mídias tradicionais – pense-se, por exemplo, no tempo e dinheiro despendidos para produzir, imprimir e circular um panfleto –, as mídias digitais facilitam a hostilidade impulsiva, massiva e sem barreiras geográficas.

Do ponto de vista dos veículos, as condições também são peculiares: por um lado, as redes digitais não produzem conteúdo, e, portanto, não são responsabilizadas, como as mídias tradicionais, pelas manifestações dos usuários; por outro lado, não são espaços de discussão totalmente públicos e neutros, mas espaços privados, regulados por empresas que inclusive obtêm lucros com a interação dos usuários. Seus algoritmos, por exemplo, são programados não para promover mensagens verdadeiras ou virtuosas, mas sim as que geram mais visibilidade, funcionando como “câmaras de eco” – inclusive do ódio.

Tais características tornam mais complexo o debate entre pesquisadores, legisladores e a indústria de tecnologia em torno do combate ao discurso de ódio sem prejuízo à liberdade de expressão.

Alguns consensos parecem estar em vias de consolidação. Um deles é reduzir o alcance de perfis não verificados. Outro é reduzir o estímulo às performances públicas em favor de comunicações autênticas, por exemplo, restringindo a relevância de “likes” e “compartilhamentos” para a propagação das publicações, de modo que elas possam ser avaliadas pelos seus próprios méritos. A informação também pode ser qualificada por meio de mais mecanismos que alertem os usuários sobre conteúdos potencialmente tóxicos. Atualmente, há muito pouca transparência em relação aos algoritmos empregados pelas redes. Isso sugere a criação de grupos independentes de especialistas para auditarem os algoritmos de acordo com diretrizes de interesse público.

Seja pela autorregulação das próprias mídias digitais (um modelo privilegiado nos EUA), seja pela regulação do Estado (modelo privilegiado na Europa), o fato é que será preciso minimizar as condições que facilitam e estimulam o discurso de ódio.

Com as redes sociais foram criadas condições para a proliferação da intolerância