Eliminan contenido de odio de Facebook
BERLÍN — La seguridad es estricta en este edificio de ladrillo en el extremo oeste de Berlín. Dentro, un rótulo advierte: “¡Todo el que no tenga gafete es un espía potencial!”.
Repartidos en cinco pisos, cientos de hombres y mujeres sentados en filas de seis escudriñan sus monitores de computadora. Todos han firmado acuerdos de confidencialidad. Cuatro especialistas en trauma están a su disposición siete días a la semana.
Son los agentes de Facebook. Y tienen el poder de decidir qué es libre expresión y qué es discurso de odio.
Este es el centro de eliminación de publicaciones, uno de los más grandes de Facebook, con más de 1,200 moderadores de contenido. Están limpiando contenido —desde propaganda terrorista y símbolos nazis hasta abuso infantil— que viola la ley o las normas de comunidad de la compañía.
Alemania, sede de una nueva ley estricta contra el discurso de odio en línea, se ha convertido en un laboratorio para una de las cuestiones más urgentes para los gobiernos hoy día: si la red social más grande del mundo debe ser regulada y cómo.
Por todo el mundo, Facebook y otras plataformas de redes sociales enfrentan una reacción negativa a raíz de la desinformación, el discurso de odio y las fallas para salvaguardar la privacidad.
En India, siete personas fueron asesinadas a golpes tras un mensaje viral falso en WhatsApp, subsidiaria de Facebook. En Myanmar, la violencia contra la minoría rohinyá fue avivada, en parte, por desinformación propagada en Facebook. En EE.UU., el Congreso llamó a Mark Zuckerberg, director general de Facebook, para testificar sobre la incapacidad de la compañía para proteger la privacidad de sus usuarios.
Europa, y Alemania en particular, han surgido como los reguladores de facto de la industria, ejerciendo influencia más allá de sus fronteras. La medida represiva digital de Berlín contra el discurso de odio, que entró en vigor el 1 de enero, es observada de cerca por otros países. Y funcionarios alemanes juegan un papel importante detrás de una de las acciones más agresivas
de Europa para controlar a las compañías tecnológicas, reglas estrictas de privacidad de datos que entraron en vigor por toda la Unión Europea el 25 de mayo y que están provocando cambios globales.
Zuckerberg apareció ante el Parlamento Europeo el 22 de mayo y se disculpó por el daño que ha causado Facebook.
En el país del Holocausto, el compromiso contra el discurso de odio es tan intenso como el compromiso con la libertad de expresión. “Mi lucha”, de Hitler, está disponible solo en una versión con comentarios. Las esvásticas son ilegales. Incitar al odio es sancionable con hasta cinco años de prisión.
Sin embargo, los posts, las fotos y los videos prohibidos han persistido en Facebook y otras plataformas de redes sociales. Ahora las compañías que no eliminen contenido “evidentemente ilegal” en un lapso de 24 horas enfrentan multas de hasta 50 millones de euros.
El centro de eliminación de contenido precede a la legislación, pero sus esfuerzos han adquirido una nueva urgencia. A diario, moderadores de contenido en Berlín, contratados por una firma externa y trabajando exclusivamente en Facebook, leen con cuidado miles de posts marcados por usuarios como perturbadores o ilegales y emiten un juicio: ignorar, borrar o “escalar” a un equipo internacional de abogados de Facebook.
Algunas decisiones de borrar son fáciles. Los posts sobre negación del Holocausto y diatribas genocidas contra grupos particulares, como refugiados, son blancos obvios para borrar.
Otros no lo son tanto. El 31 de diciembre, el día antes de que entrara en vigor la nueva ley, un legislador de extrema derecha reaccionó a un tuit de Año Nuevo en árabe de la Policía de Colonia, acusándola de apaciguar a “grupos de hombres salvajes, musulmanes y violadores”.
La solicitud de bloquear una captura de pantalla del post del legislador terminó en la fila de Nils, un agente de 35 años en el centro de eliminación de Berlín. Su criterio fue dejarlo publicado. Un colega creía que debería ser borrado. A final de cuentas, el post fue enviado a abogados en Dublín, Londres, el Valle del Silicio y Hamburgo. Para la tarde, había sido borrado, desatando una oleada de críticas contra la nueva legislación, conocida aquí como la “Ley Facebook”.
Los casos complicados han planteado inquietudes respecto a que la amenaza de multas elevadas y una ventana de 24 horas para tomar decisiones alienta al “bloqueo excesivo” por parte de las compañías.
El partido de extrema derecha Alternativa para Alemania, usuario vehemente y prolífico de los medios sociales, ha sido presto para proclamar “el fin de la libre expresión”. Organizaciones de derechos humanos han advertido que la legislación estaba inspirando a gobiernos autoritarios a imitarla.
Otros argumentan que la ley simplemente le da a una compañía privada demasiada autoridad para decidir qué constituye un discurso de odio ilegal en una democracia, un argumento que Facebook, que estaba a favor de directrices voluntarias, presentó en contra de la ley.
“Es perfectamente apropiado que el Gobierno alemán establezca normas”, dijo Elliot Schrage, vicepresidente de comunicaciones y políticas públicas de Facebook. “Pero creemos que es una mala idea que el Gobierno alemán delegue la decisión de qué es lícito y qué no lo es”.
Richard Allan, vicepresidente de Facebook para políticas públicas en Europa, lo expresó de manera más simple: “no queremos ser los árbitros de la libre expresión”.
Los funcionarios alemanes responden que las plataformas de medios sociales son los árbitros, de todas formas. Todo se resume en una interrogante, apuntó Gerd Billen, secretario de Estado en el Ministerio de Justicia y Protección al Consumidor de Alemania. “¿Quién es soberano? ¿El Parlamento o Facebook?”.
El centro es operado por Arvato, un proveedor de servicios propiedad del conglomerado Bertelsmann. Los agentes revisan contenido de un puñado de países.
El centro de Berlín fue inaugurado con 200 empleados en el 2015, mientras Alemania abría sus puertas a los refugiados. Las publicaciones que llamaban a los refugiados violadores, neandertales y escoria sobrevivieron durante semanas, de acuerdo con jugendschutz.net, una organización de seguridad en internet financiada públicamente. Muchos nunca fueron borrados.
Billen estaba alarmado. En septiembre del 2015, convocó a ejecutivos de Facebook y otras compañías de redes sociales. Se formó un grupo de trabajo para combatir el discurso de odio. Un par de meses después, las compañías firmaron una declaración conjunta, prometiendo “examinar el contenido marcado y bloquear o borrar la mayoría de las publicaciones ilegales en cuestión de 24 horas”.
Sin embargo, no desapareció el problema. En los 15 meses siguientes, investigadores independientes, contratados por el Gobierno, se hicieron pasar dos veces como usuarios ordinarios y marcaron posts ilegales de discurso de odio. Durante las pruebas, hallaron que Facebook había borrado 46 por ciento y 39 por ciento.
“Ellos sabían que eran una plataforma para conducta criminal y para llamados a cometer actos criminales, pero se presentaron ante nosotros como un lobo con piel de oveja”, dijo Billen.
Así nació la Ley de Cumplimiento en la Red, que establece 21 tipos de contenido “evidentemente ilegal” y requiere que las plataformas actúen con rapidez.
El desempeño de Facebook para eliminar discurso de odio ilegal en Alemania se elevó 100 por ciento durante el último año, de acuerdo con la más reciente inspección sorpresa de la Unión Europea.
En las oficinas de Facebook en Berlín, Allan reconoció que en el acuerdo voluntario anterior, la compañía no había actuado con la firmeza suficiente en un principio.
La razón de la mejora no fue la legislación alemana, sino un código de conducta voluntario con la Unión Europea, comentó.
“No había necesidad de legislación”, agregó. Billen discrepa. “Podrían haber evitado la ley”, señaló. YouTube tuvo una calificación de 90 por ciento en el ejercicio de monitoreo del año pasado. Si otras plataformas hubieran hecho lo mismo, no habría una ley ahora, precisó.
El enfoque alemán de línea dura ante el discurso de odio y la privacidad de datos alguna vez lo convirtió en un caso aparte en Europa.
Ahora se ha endurecido la postura de muchos otros gobiernos respecto a Facebook desde que salió a luz que la firma consultora Cambridge Analytica había extraído datos personales de hasta 87 millones de usuarios.
La Comisión Europea contempla una legislación estilo alemán para contenido en línea relacionado con terrorismo, extremismo violento y pornografía infantil.
Y la influencia alemana es evidente en la nueva norma de privacidad de Europa, conocida como el Reglamento General de Protección de Datos. Las reglas le dan a la gente control sobre cómo es recolectada y utilizada su información.
“Ahora hay un sentido de urgencia y la convicción de que estamos lidiando con algo muy peligroso que podría amenazar al desarrollo de las democracias libres”, dijo Vera Jourova, comisionada de Justicia de la Unión Europea, quien también busca formas de restringir las noticias falsas y las campañas de desinformación.
Jourova, que se crió detrás de la Cortina de Hierro en lo que ahora es la República Checa, durante mucho tiempo se había mostrado escéptica de que los gobiernos legislaran cualquier aspecto de la libre expresión.
Su padre perdió su empleo tras hacer un comentario sobre la invasión soviética en 1968, lo que le impidió a ella asistir a la universidad hasta que se casó y tomó el apellido de su marido.
“Viví la mitad de mi vida en el ambiente impulsado por la propaganda soviética”, recordó. “El principio de oro era: si repites una mentira 100 veces, se vuelve realidad”.
En el centro de eliminación, de vez en cuando alguien pierde la compostura. Una madre de familia se paró recientemente de su escritorio llorando tras ver el video de un niño que era abusado sexualmente. Un joven se sintió enfermo al ver el video de un perro que era torturado.
Cada semana tienen sesiones grupales con un psicólogo y los especialistas en trauma están listos para apoyar.
Sin embargo, hay una camaradería en la oficina y un verdadero sentido de misión: Nils afirmó que los agentes estaban orgullosos de “ayudar a limpiar el odio”.
“Ellos sabían que eran una plataforma para conducta criminal y para llamados a cometer actos criminales”. GERD BILLEN El jefe de protección al consumidor alemán sobre Facebook