Escapa de vorágine derechista en YouTube
MARTINSBURG, Virginia Occidental — Caleb Cain sacó una pistola de su cintura y la arrojó despreocupadamente sobre la cubierta de la cocina. “La compré el día después de que recibí amenazas de muerte”, dijo.
Cain explicó que las amenazas provinieron de trolls de ala derecha en respuesta a un video que él había subido en YouTube unos días antes. En el video, contaba la historia de cómo había sido succionado en una vorágine de política de extrema derecha en YouTube.
“Caí en la madriguera de la derecha alternativa”, decía en el video.
Cain, de 26 años, recientemente renunció a la derecha alternativa, casi cinco años después de descubrirla, y se ha vuelto un fuerte crítico de ella. Tiene las cicatrices de su experiencia de haber sido radicalizado, por lo que él llama un “culto descentralizado” de personalidades de extrema derecha en YouTube, que lo convencieron de que la civilización occidental estaba amenazada por los inmigrantes musulmanes y marxistas culturales, que las diferencias innatas en el IQ explicaban las disparidades raciales y que el feminismo era peligroso.
“Simplemente seguí cayendo más y más profundo en esto, y me atrajo porque me daba una sensación de pertenencia”, dijo. “Me lavaron el cerebro”.
Hay incontables versiones del caso de Cain: un joven sin rumbo en la vida visita YouTube en busca de orientación y distracción y se ve seducido por una comunidad de creadores de extrema derecha.
El hilo común es YouTube y su algoritmo de recomendaciones, el software que determina qué videos aparecen en las home pages de los usuarios y en la columna “Siguiente” (Up Next) junto al video que se está reproduciendo. El algoritmo es responsable de más del 70 por ciento de todo el tiempo pasado en el sitio.
La radicalización de hombres jóvenes es impulsada por un complejo revoltijo de elementos emocionales, económicos y políticos. Pero críticos e investigadores independientes dicen
“Me atrajo porque me daba una sensación de pertenencia. Me lavaron el cerebro”. CALEB CAIN, 26 AÑOS Dice que cayó en una ‘madriguera’ de derecha alternativa en YouTube.
Un algoritmo puede alterar la conducta de los usuarios.
que la plataforma de videos ha creado inadvertidamente una rampa peligrosa hacia el extremismo al combinar dos cosas: un modelo de negocios que recompensa a los videos provocadores con exposición y dólares de la publicidad, y un algoritmo que guía a los usuarios por caminos personalizados con la intención de mantenerlos pegados a sus pantallas.
“Hay un espectro en YouTube entre la sección tranquila —la parte Walter Cronkite, Carl Sagan— y la Tierra de la Locura, donde está el material extremo”, dijo Tristan Harris, exético de diseño en Google, la compañía matriz de YouTube. “Si yo soy YouTube y quiero que veas más, siempre voy a guiarte hacia la Tierra de la Locura”.
A principios de este mes, la plataforma anunció que prohibiría los videos que externan opiniones intolerantes y que cambiaría su algoritmo de recomendaciones para reducir la propagación de información errónea. Con 2 mil millones de usuarios activos al mes que suben más de 500 horas de video cada minuto, se estima que el tráfico de YouTube es el segundo después del motor de búsquedas de Google.
Al igual que muchas compañías de Silicon Valley, YouTube es aparentemente liberal en su política corporativa. El presidente Donald J. Trump y otros conservadores han afirmado que esta y otras redes de medios sociales están predispuestas contra las opiniones derechistas. En realidad, la plataforma ha sido una bendición para los hiperpartidarios de todos los bandos, al permitirles transmitir sus opiniones al público en general.
Desde temprana edad, Cain se sintió atraído por la cultura de internet. Creció en la región de Appalachia, criado por abuelos cristianos conservadores. Fue a una universidad comunitaria, pero se salió. En bancarrota y deprimido, buscó ayuda en el lugar donde buscaba todo lo demás: YouTube.
Un día del 2014, YouTube recomendó un video de autoayuda de Stefan Molyneux, un autodenominado filósofo canadiense que hablaba sobre superar las adversidades mediante la autosuperación. Parecía inteligente y apasionado, y lidiaba con grandes cuestiones como el libre albedrío, junto con temas como el noviazgo y las entrevistas de trabajo.
Molyneux también tenía una agenda política. Era un defensor de los derechos de los hombres que decía que la progresiva política de género estaba reprimiendo a hombres jóvenes. Ofrecía comentarios conservadores sobre sucesos de actualidad.
A Cain le interesaba la justicia social, le preocupaba la desigualdad de la riqueza y creía en el cambio climático. Pero las diatribas de Molyneux le parecían fascinantes, aun cuando no estaba de acuerdo con ellas. “Él estaba dispuesto a abordar las problemáticas de los hombres jóvenes de manera directa, en una manera en que yo nunca antes había escuchado”, comentó Cain.
En el 2015 y 2016, mientras Cain se sumergía más en sus recomendaciones de YouTube, descubrió un universo de creadores de ala derecha, como Lauren Southern, una activista canadiense de extrema derecha. Estas personas eran artistas que creaban su público con sátiras. Pocos tenían vínculos evidentes con grupos conservadores de la clase dirigente. Apoyaban cuestiones como la libertad de expresión y el antifeminismo, describiéndose como rebeldes que dicen la verdad y que luchaban contra “guerreros de la justicia social” sin sentido del humor. Para Cain, todo esto se sentía como que le habían permitido entrar a un club exclusivo con simplemente ver algunos videos de YouTube.
Si la alienación fue un ingrediente en la radicalización de Cain, y partidarios persuasivos como Molyneux eran otro, el tercero fue una serie de decisiones de producto que YouTube tomó a partir del 2012.
En marzo de ese año, los ingenieros de YouTube hicieron una actualización al algoritmo de recomendaciones del sitio: le daría más peso al tiempo de observación que a las vistas. Se exhortaría a los creadores a hacer videos que los usuarios terminaran de ver para que la plataforma pudiera mostrar más anuncios. En cuestión de semanas, la compañía reportó que el tiempo de observación en general estaba creciendo. Poco después del ajuste, YouTube cambió sus reglas para permitir que todos los creadores incluyeran anuncios en sus videos y ganaran una porción de sus ingresos.
En el 2015, un equipo de la división de inteligencia artificial de Google empezó a reconstruir el sistema de recomendaciones de YouTube alrededor de redes neurales, un tipo de IA que imita al cerebro humano. Un problema era que la IA tendía a meter a los usuarios en nichos, recomendando videos similares a los que habían visto. A la larga, los usuarios se aburrían.
Los investigadores de Google se preguntaban si podían mantener a los usuarios de YouTube involucrados durante más tiempo al guiarlos a diferentes partes de YouTube. Empezaron probando un nuevo algoritmo que incorporaba un tipo diferente de IA llamado aprendizaje de refuerzo, que estaba diseñado para maximizar la participación de los usuarios con el tiempo, al predecir qué recomendaciones ampliarían sus gustos.
En una plática en una conferencia de IA en febrero, Minmin Chen, investigadora de Google, dijo que el nuevo algoritmo ya empezaba a alterar el comportamiento de los usuarios.
“Realmente podemos guiar a los usuarios hacia un estado diferente, en comparación con recomendar contenido que es familiar”, dijo Chen.
Los directivos de YouTube negaron que el algoritmo guiara a los usuarios a contenido más extremo.
Cain vio casi 4 mil videos de YouTube en el 2016, más del doble de los que había visto el año anterior. Su historial de vistas muestra que la mayor parte de sus reproducciones venían de canales de extrema derecha. Y después de la elección presidencial, empezó a explorar a creadores más radicales que no ocultaban sus opiniones racistas en memes sarcásticos.
En el 2018, una nueva clase de video comenzó a aparecer en las recomendaciones para Cain. Uno fue un debate sobre la inmigración entre Southern y Steven Bonnell, un YouTuber liberal conocido como Destiny. Cain vio el video para apoyar a Southern, pero renuentemente declaró ganador a Bonnell.
Cain también encontró videos de Natalie Wynn, una ex filósofa académica que se hace llamar Contra-Points. Usaba disfraces y explicaba por qué la cultura occidental no estaba bajo ataque de los inmigrantes. Bonnell y Wynn eran cautivadores. No se indignaban por las ideas de extrema derecha; las hacían ver poco sofisticadas.
Wynn y Bonnell son parte de Bread-Tube, un grupo de YouTubers que está intentando crear un contrapeso al flanco de extrema derecha de YouTube. Al hablar sobre los mismos temas, pueden lograr que sus videos sean recomendados al mismo público. “Natalie y Destiny tendieron un puente hacia mi lado”, dijo Cain.
Wynn, la figura más prominente de Bread-Tube, cuenta con 615 mil suscriptores, una fracción del público atraído por los creadores más grandes del ala derecha.
Recientemente, Cain decidió iniciar su propio canal de YouTube, Faraday Speaks, para mostrar a hombres jóvenes una forma de salir de la extrema derecha. Poco después de que su primer video fue subido, Cain comenzó a recibir amenazas de trolls de la derecha alternativa en 4Chan, un foro de mensajes en línea. Hace varias semanas se mudó de Virginia Occidental.
Lo que es más sorprendente de la nueva vida de Cain es lo similar que se siente a la anterior. Sigue viendo docenas de videos de YouTube todos los días. Dijo que pese a todos sus problemas, YouTube aún es donde se libran y ganan las luchas políticas. Dejarlo sería básicamente abandonar el debate.
“YouTube es el lugar para transmitir un mensaje”, señaló Cain. “Pero he aprendido ahora que no puedes ir a YouTube y pensar que estás recibiendo algún tipo de educación, porque no es así”.