Salvar de los troles a la democracia representativa
Para el 2024 están previstas más de 70 elecciones nacionales, incluidas ocho en los diez países más poblados, pero es probable que un grupo esté significativamente subrepresentado: las mujeres.
Una razón es la cantidad desproporcionada de abusos que las mujeres políticas y candidatas reciben en línea, incluidas amenazas de violación y violencia, y el aumento de la inteligencia artificial, que puede usarse para crear deepfakes sexualmente explícitos, no hace más que agravar el problema.
Y, sin embargo, durante el año pasado, plataformas como Meta, X (anteriormente Twitter) y YouTube restaron importancia a la moderación de contenidos y eliminaron políticas que anteriormente mantenían bajo control el odio, el acoso y las mentiras.
Según un nuevo informe, esto ha alimentado un “entorno en línea tóxico que es vulnerable a la explotación por parte de fuerzas antidemocráticas, supremacistas blancos y otros malos actores”. Los ataques en línea contra las mujeres en la política están aumentando. Cuatro de cada cinco parlamentarias han sido sometidas a violencia psicológica como acoso, intimidación o abuso verbal, mientras que más del 40 % han sido amenazadas de agresión, violencia sexual o muerte.
Las elecciones del 2020 en Estados Unidos fueron particularmente reveladoras. Un análisis reciente de candidatos al Congreso encontró que las mujeres demócratas recibieron diez veces más comentarios abusivos en Facebook que sus homólogos masculinos. E inmediatamente después de que el candidato presidencial Joe Biden nombró a Kamala Harris su compañera de fórmula, se compartieron afirmaciones falsas sobre Harris unas 3.000 veces por hora en Twitter.
Se han documentado tendencias similares en la India, el Reino Unido, Ucrania y Zimbabue. Las mujeres pertenecientes a minorías sufren los peores abusos, junto con aquellas que son muy visibles en los medios de comunicación o hablan abiertamente sobre cuestiones feministas.
En la India, uno de cada siete tuits sobre mujeres políticas es problemático o abusivo, y las mujeres musulmanas y las que pertenecen a castas marginadas son las más afectadas por los insultos.
El ataque desproporcionado a las mujeres las desalienta a postularse para cargos públicos, las expulsa de la política o las lleva a desconectarse del discurso en línea de maneras que perjudican su eficacia política, todo lo cual debilita la democracia. En Italia, “las amenazas de violación se utilizan para intimidar a las mujeres políticas y expulsarlas de la esfera pública”, dice Laura Boldrini, política italiana que fue presidenta de la Cámara de Diputados del país, añadiendo que los propios líderes políticos a menudo emiten estos comentarios.
Tales acciones crean un círculo vicioso, ya que se ha demostrado que la escasez de mujeres en el gobierno da como resultado políticas menos eficaces para reducir la violencia contra las mujeres.
Cómo contrarrestar el odio.
Las empresas tecnológicas deberían tomar cuatro medidas para contrarrestar esta tendencia. Para empezar, deberían publicar directrices sobre lo que constituye discurso de odio y acoso amenazante e intimidante en sus plataformas. Algunos gigantes tecnológicos han incluido e incluso proporcionado ejemplos de discursos de odio sexistas en sus políticas. La de YouTube de Google es un ejemplo.
En segundo lugar, las plataformas deben invertir en una moderación eficaz de contenidos para todos los países, no solo Estados Unidos y Europa. Eso significa utilizar una combinación de capital humano y sistemas automatizados mejorados (durante la pandemia de covid-19, cuando las empresas de tecnología dependían más de algoritmos, los activistas en Francia notaron que el discurso de odio en Twitter aumentó en más de un 40 %).
Igualmente necesario es capacitar a moderadores para identificar la violencia en línea contra las mujeres en la política y una inversión más equitativa en una moderación eficaz de contenidos. Hasta ahora, la desagradable tarea de encontrar y eliminar contenido
Plataformas como Meta, X y YouTube eliminaron políticas que anteriormente mantenían bajo control el odio, el acoso y las mentiras
ofensivo generalmente se ha subcontratado a regiones donde la mano de obra es menos costosa.
En tercer lugar, los principios de “seguridad por diseño” deberían incorporarse en los nuevos productos y herramientas. Podría significar crear mecanismos que “aumenten la fricción” para los usuarios y, en primer lugar, dificulten la difusión del discurso de odio y la desinformación de género.
Las empresas deberían mejorar sus prácticas de evaluación de riesgos antes de lanzar productos y herramientas o introducirlos en un nuevo mercado. También será importante invertir en innovación, como ParityBOT, que sirve como herramienta de seguimiento y contrapeso al detectar tuits problemáticos sobre candidatas y responder con mensajes positivos.
Por último, el seguimiento independiente encargado a investigadores o grupos de ciudadanos ayudaría a las sociedades a realizar la vigilancia del problema y de qué tan bien lo están manejando las plataformas tecnológicas. Tal monitoreo requeriría que las empresas brinden acceso a sus datos sobre el número y la naturaleza de las quejas recibidas, desglosados por género, país y respuestas.
Aprobar leyes y aplicarlas.
En el ámbito de las políticas de contenido de las empresas de redes sociales y la menor inversión en moderación, cabe señalar que el porcentaje de mujeres en roles de liderazgo tecnológico es actualmente del 28 % y está disminuyendo. Si, como en la política, las líderes tecnológicas son más propensas a tratar la violencia contra las mujeres, esta tendencia podría crear un círculo vicioso similar.
Fundamentalmente, los gobiernos también deben tomar medidas para evitar que el abuso en línea por motivos de género socave la democracia. Túnez y Bolivia han prohibido la violencia política y el acoso contra las mujeres, mientras que México promulgó recientemente una ley que castiga, con hasta nueve años de prisión, a quienes creen o difundan imágenes o videos íntimos de mujeres o las ataquen en las redes sociales.
En el Reino Unido, las directrices legales emitidas en el 2016 y el 2018 permiten procesar a los troles que crean hashtags despectivos, participan en acoso virtual (incitando a las personas a acosar a otros) o hacen circular imágenes manipuladas.
En el 2017, Alemania introdujo una ley que exige que las plataformas eliminen el discurso de odio o el contenido ilegal en un plazo de 24 horas o se arriesgan a pagar multas por millones de dólares (una medida similar fue anulada en Francia por temor a la censura).
Pero incluso cuando existen leyes, las mujeres políticas hablan de abusos “prácticamente constantes” e informan que los funcionarios encargados de hacer cumplir la ley no toman en serio las amenazas y los abusos en línea. En el Reino Unido, por ejemplo, menos del 1 % de los casos denunciados a la unidad de delitos de odio en línea de Scotland Yard han dado lugar a cargos.
Los agentes de policía y los jueces necesitan una mejor formación para comprender cómo se aplican las leyes existentes a la violencia en línea contra las mujeres políticas; demasiados piensan que es simplemente “parte del trabajo”.
Las empresas tecnológicas y los gobiernos deben actuar ahora para garantizar que tanto hombres como mujeres participen por igual en las elecciones de este año. Si no lo hacen, las democracias representativas se volverán menos representativas y menos democráticas.