Investigación presentada en el ACM FAT 2020 La conferencia en Barcelona hoy apoya la noción de que la plataforma de YouTube está desempeñando un papel en la radicalización de los usuarios a través de la exposición a las ideologías de extrema derecha.
El estudio, realizado por investigadores de la Ecole polytechnique fédérale de Lausanne de Suiza y la Universidad Federal de Minas Gerais en Brasil, encontró evidencia de que los usuarios que se involucraron con un término medio de contenido de extrema derecha migraron para comentar sobre la extrema derecha más marginal contenido.
A marzo de 2018 New York Times El artículo del sociólogo Zeynep Tufekci expuso la tesis ampliamente difundida de que YouTube es un motor de radicalización. Mientras seguimiento informes por el periodista Kevin Roose contó una historia convincente de la experiencia personal de un individuo, Caleb Cain, quien describió caer en un "hoyo de conejo alternativo" en YouTube. Pero el investigador Manoel Horta Ribeiro, quien presentó el artículo hoy, dijo que el equipo quería ver si podían encontrar evidencia auditable para respaldar tales anécdotas.
Su papel, llamado Auditar vías de radicalización en YouTube, detalla un estudio a gran escala de Youtube buscando rastros de evidencia, en me gusta, comentarios y opiniones, de que ciertas comunidades de YouTube que se inclinan hacia la derecha están actuando como puertas de acceso a las ideologías de la extrema derecha.
Según el documento, analizaron 330,925 videos publicados en 349 canales, clasificando ampliamente los videos en cuatro tipos: Medios, Alt-lite, Intellectual Dark Web (IDW) y Alt-right, y utilizando los comentarios de los usuarios como "buenos suficiente "proxy para la radicalización (su conjunto de datos incluyó 72 millones de comentarios).
Los hallazgos sugieren un efecto de canalización durante varios años en el que los usuarios que comenzaron a comentar sobre el contenido de YouTube alt-lite / IDW cambiaron a comentar sobre el contenido de extrema derecha en la plataforma con el tiempo.
Si bien se encontró que la tasa de superposición entre los consumidores de contenido de medios y el derecho alternativo era mucho menor.
"Una cantidad significativa de usuarios que comentan migran sistemáticamente de comentar exclusivamente sobre contenido más suave a comentar sobre contenido más extremo", escriben en el documento. "Argumentamos que este hallazgo proporciona evidencia significativa de que ha habido, y continúa habiendo, radicalización de usuarios en YouTube, y nuestros análisis de la actividad de estas comunidades … son consistentes con la teoría de que el contenido más extremo 'superpuesto' en el aumento en popularidad de IDW y contenido Alt-lite … Mostramos que este fenómeno de migración no solo es consistente a lo largo de los años, sino que también es significativo en su cantidad absoluta ".
Los investigadores no pudieron determinar el mecanismo exacto involucrado en la migración de los usuarios de YouTube de consumir políticas "alt lite" para comprometerse con las ideologías de extrema derecha más marginales y extremas, citando un par de desafíos clave en ese frente: Lacceso imitado a los datos de recomendación; y el estudio no tiene en cuenta la personalización (que puede afectar las recomendaciones de un usuario en YouTube).
Pero incluso sin personalización, dicen que "todavía podían encontrar un camino en el que los usuarios pudieran encontrar contenido extremo de grandes canales de medios".
Durante una conferencia de preguntas y respuestas después de presentar el documento, se preguntó a Horta Ribeiro qué evidencia tenían de que el efecto de radicalización que identifica el estudio se había producido a través de YouTube, en lugar de a través de un sitio externo, o porque las personas en cuestión estaban más radicalizadas para empezar (y por lo tanto, más atraído por las ideologías extremas) frente a la noción de que YouTube es una tubería de radicalización activa.
Estuvo de acuerdo en que es difícil hacer una afirmación absoluta de que YouTube tiene la culpa. Pero también argumentó que, como anfitrión de estas comunidades, la plataforma es responsable.
“Sí encontramos rastros evidentes de radicalización del usuario, y supongo que la pregunta es ¿por qué YouTube es responsable de esto? Y supongo que la respuesta sería porque muchas de estas comunidades viven en YouTube y tienen gran parte de su contenido en YouTube y es por eso que YouTube está tan profundamente asociado con él ", dijo.
"En cierto sentido, estoy de acuerdo en que es muy difícil afirmar que la radicalización se debe a YouTube o debido a algún sistema de recomendación o que la plataforma es responsable de eso. Podría ser que algo más esté conduciendo a esta radicalización y, en ese sentido, creo que el análisis que hacemos muestra que existe este proceso de usuarios que van de canales más suaves a canales más extremos. Y esta evidencia sólida hacia la radicalización porque las personas que no estuvieron expuestas a este contenido radical se exponen. Pero es difícil hacer afirmaciones causales fuertes, como YouTube es responsable de eso ".
Nos comunicamos con YouTube para obtener una respuesta a la investigación, pero la empresa no respondió a nuestras preguntas.
La compañía ha reforzado su enfoque hacia cierta extrema derecha y contenido extremista en los últimos años, en la cara de creciente política y público presión sobre el discurso de odio, el acoso selectivo y los riesgos de radicalización.
También ha sido experimentando con la reducción de la amplificación algorítmica de ciertos tipos de contenido sin sentido potencialmente dañino que queda fuera de sus pautas generales de contenido, como las teorías de conspiración maliciosa y la ciencia basura.