Las grandes empresas de internet unen sus esfuerzos contra el terrorismo
Al detectar un contenido violento lo marcarán y compartirán en una base de datos
Google, Facebook, Twitter y Microsoft han anunciado que han puesto en marcha una iniciativa conjunta para eliminar el contenido terrorista y extremista de sus respectivas plataformas. Este tipo de contenidos se identificarán con una huella digital única. Además, crearán una base de datos conjunta con todas estas huellas digitales –conocidas como hashes– cada una de las cuales se corresponderá con un tipo de contenido distinto. De esta manera, cuando una de estas plataformas elimine un vídeo, una foto o un mensaje que viole sus políticas de uso, a las otras les será más fácil encontrarla y proceder del mismo modo en su propia red.
Así, las empresas tecnológicas líderes esperan poder evitar la propagación de vídeos de reclutamiento, con imágenes violentas e incluso memes relacionados con organizaciones terroristas y especialmente con el terrorismo yihadista.
“Esperamos que esta colaboración conduzca a una mayor eficiencia al mismo tiempo que continuamos reforzando nuestras políticas para ayudar a frenar la urgente cuestión global de los contenidos terroristas en línea”, han dicho las cuatro compañías en un comunicado que se puede leer en Facebook.
De momento, no se eliminará o bloqueará ningún mensaje o imadiente gen de forma automática y simultánea en las plataformas de las cuatro empresas. Cada una de ellas decidirá de forma independiente qué contenidos violan sus propias normas y cuáles comparte en la base de datos conjunta. La razón es que cada empresa tiene su propias reglas y definiciones de lo que se puede distribuir en sus redes, y no son siempre coincidentes con lo que las demás empresas que participan en esta iniciativa entienden como contenidos prohibidos.
Por eso en un principio –y según se puede leer en el mismo comunicado–, los cuatro grandes de internet han decidido empezar por retirar los vídeos y las imágenes “más extremas y flagrantes” y aquellas que sean “más susceptibles de violar las políticas de todas nuestras empresas”.
Recientemente, Estados Unidos, la Comisión Europea y otros gobiernos han pedido en repetidas ocasiones que las redes sociales intensifiquen su lucha contra la propaganda yihadista en línea. En este sentido, Google, Facebook, Twitter y Microsoft han dejado claro que no responderán a estas demandas de forma conjunta, y que seguirán actuando de forma indepen-
ante las peticiones de información que les lleguen desde los gobiernos y desde las fuerzas policiales de los distintos países.
En el comunicado no se precisan los detalles técnicos, aunque el enfoque es similar al adoptado para eliminar imágenes de abuso sexual infantil. Estas mismas empresas utilizan la tecnología PhotoDNA del National center for missing and
exploited children, desarrollada por Microsoft, para identificar este tipo de imágenes.
De hecho, Hany Farid, el responsable de desarrollar la PhotoDNA, ya propuso a principios de este año desarrollar un programa similar para combatir el contenido terrorista en internet.
La gran diferencia es que con la PhotoDNA las imágenes son identificadas por las fuerzas del orden y todas las empresas tecnológicas están legalmente obligadas a eliminarlas. Con la iniciativa que se ha presentado, queda al criterio de cada una de ella.
A raíz de este anuncio, Twitter indicó que desde mediados del 2015 se han suspendido más de 360.000 por promover el terrorismo y que se observa una disminución en el uso de su plataforma por yihadistas, según Sinead McSweeney, vicepresidenta de esta red social para Europa, Oriente Medio y África.
Según McSweeney, la mayoría de las cuentas eliminadas fueron detectadas mediante herramientas anti spam, y que el intercambio de huellas digitales se haría de forma manual y periódica. “No hay un método que funciona para todos igual para hacer frente a este tipo de material; cada plataforma es diferente”, dijo la vicepresidenta de Twitter.
La mayoría de las redes sociales prohíben en sus políticas los contenidos que inciten al uso de la violencia o que defiendan el terrorismo. A pesar de que han mejorado sus herramientas de detección automática, regularmente afirman que no tiene ningún algoritmo “mágico” para identificar el contenido problemático y dependen en gran medida de la presentación de informes por parte de los propios usuarios.
Que una red social o una plataforma borre una imagen o un vídeo no obliga a las otras a hacer lo mismo El sistema utilizado recuerda al que se usa para detectar y eliminar imágenes de abuso sexual infantil