Combate Twitter las cuentas terroristas
Con ‘machine learning’, la plataforma detecta y elimina cuentas relacionadas con hechos violentos o que desinforman
CDMX.- Twitter removió 950 mil cuentas de su plataforma relacionadas a terrorismo en los últimos tres años; tarea en la que algoritmos de “machine learning” (ML) han sido la herramienta principal para su detección y cese.
Pese a recientes señalamientos sobre la efectividad de las tareas de detección y remoción de cuentas relacionadas con hechos violentos o a cuentas maliciosas automatizadas, Colin Crowell, vicepresidente de políticas públicas de Twitter, afirmó que tecnologías como ML los están haciendo más ágiles y preventivos en esta tarea.
“Vimos que ISIS estaba usando cuentas de Twitter para promover mensajes terroristas, así que si ves en los últimos tres años hemos elevado la remoción de cuentas. (...) Hace tres años 25 por ciento de las cuentas fueron identificadas usando tecnología y actualmente ese número de detecciones es de 95 por ciento, pero de forma más importante 75 de este 95 por ciento, las hemos podido remover antes de que hagan su primer tuit y nos estamos volviendo más ágiles y más inteligentes al perseguir a automatización en la plataforma”, dijo en una visita a la Ciudad de México.
Recientemente, Twitter ha hecho hincapié en el esfuerzo que realiza para detectar y bajar contenido malicioso de la plataforma, ya que existe una latente preocupación sobre el impacto y propagación que este tipo de contenido, al igual que cuentas automatizadas de desinformación, puedan tener en distintos contextos.
“Vemos las señales en el comportamiento de las cuentas, como dirección IP, dirección, email, de qué lugar viene, estas son cosas que va aprendido el machine learning mientas más le alimentes a la máquina y no siempre vamos a saber si es una máquina o una persona”, argumentó el directivo. Expansión