El audio en el que de otro modo sería inestable metraje de la cámara corporal es inusualmente claro. Mientras los agentes de policía registran a un hombre esposado que momentos antes había hecho un tiro dentro de una pizzería, un agente le pregunta por qué estaba allí.
El hombre dice que investiguemos una red de pedófilos. Incrédulo, vuelve a preguntar el oficial. Otro oficial interviene: “Pizzagate. Está hablando de Pizzagate”.
En esa breve y escalofriante interacción en 2016, queda claro que las teorías de la conspiración, relegadas durante mucho tiempo al margen de la sociedad, se habían trasladado al mundo real de una manera muy peligrosa.
Las teorías de la conspiración, que tienen el potencial de causar un daño significativo, he encontrado un bienvenido a casa en las redes sociales, donde los foros libres de moderación permiten que personas de ideas afines conversen. Allí pueden desarrollar sus teorías y proponer acciones para contrarrestar las amenazas que “descubren”.
Pero, ¿cómo puede saber si una narrativa emergente en las redes sociales es una teoría de la conspiración infundada? Resulta que es posible distinguir entre teorías de conspiración y conspiraciones verdaderas usando aprendizaje automático herramientas para graficar los elementos y conexiones de una narrativa. Estas herramientas podrían formar la base de un sistema de alerta temprana para alertar a las autoridades sobre narrativas en línea que representan una amenaza en el mundo real.
El grupo de análisis cultural de la Universidad de California, que yo
Hemos aplicado estos métodos con éxito al estudio de Pizzagate, la Pandemia de COVID-19 y movimientos anti-vacunación. Actualmente estamos usando estos métodos para estudiar QAnon.
Construido en colaboración, rápido de formar
Las conspiraciones reales son acciones de la vida real deliberadamente ocultas de personas que trabajan juntas para sus propios propósitos malignos. En contraste, las teorías de la conspiración se construyen en colaboración y se desarrollan abiertamente.
Las teorías de la conspiración son deliberadamente complejas y reflejan una cosmovisión que lo abarca todo. En lugar de tratar de explicar una cosa, una teoría de la conspiración intenta explicarlo todo, descubriendo conexiones entre los dominios de la interacción humana que de otro modo están ocultas, principalmente porque no existen.
Si bien la imagen popular del teórico de la conspiración es la de un lobo solitario que reconstruye conexiones desconcertantes con fotografías y un hilo rojo, esa imagen ya no se aplica en la era de las redes sociales. La teorización de la conspiración se ha movido en línea y ahora es la producto final de una narración colectiva. Los participantes elaboran los parámetros de un marco narrativo: las personas, lugares y cosas de una historia y sus relaciones.
La naturaleza en línea de la teorización de la conspiración brinda una oportunidad para que los investigadores rastreen el desarrollo de estas teorías desde sus orígenes como una serie de rumores y piezas de historias a menudo inconexas hasta una narrativa completa. Para nuestro trabajo, Pizzagate presentó el tema perfecto.
Pizzagate comenzó a desarrollarse a fines de octubre de 2016 durante el período previo a las elecciones presidenciales. En un mes, se formó por completo, con un elenco completo de personajes extraídos de una serie de dominios que de otro modo no estarían vinculados: la política democrática, la vida privada de los hermanos Podesta, cenas familiares informales y tráfico pedófilo satánico.
El hilo narrativo de conexión entre estos dominios por lo demás dispares fue la interpretación fantasiosa de los correos electrónicos filtrados del Comité Nacional Demócrata. abandonado por WikiLeaks en la última semana de octubre de 2016.
Análisis narrativo de IA
Desarrollamos un modelo, un conjunto de aprendizaje automático herramientas – que pueden identificar narrativas basado en conjuntos de personas, lugares y cosas y sus relaciones. Los algoritmos de aprendizaje automático procesan grandes cantidades de datos para determinar las categorías de cosas en los datos y luego identificar a qué categorías pertenecen las cosas en particular.
Analizamos 17.498 publicaciones desde abril de 2016 hasta febrero de 2018 en los foros de Reddit y 4chan donde se habló de Pizzagate. El modelo trata cada publicación como un fragmento de una historia oculta y se dispone a descubrir la narrativa. El software identifica las personas, los lugares y las cosas en las publicaciones y determina cuáles son los elementos principales, cuáles son los elementos menores y cómo están todos conectados.
El modelo determina las principales capas de la narrativa, en el caso de Pizzagate, la política demócrata, los hermanos Podesta, la comida informal, el satanismo y WikiLeaks, y cómo las capas se unen para formar la narrativa en su conjunto.
Para asegurarnos de que nuestros métodos produjeran resultados precisos, comparamos el gráfico del marco narrativo producido por nuestro modelo con ilustraciones publicadas en Los New York Times. Nuestro gráfico se alineó con esas ilustraciones y también ofreció niveles más finos de detalle sobre las personas, los lugares y las cosas y sus relaciones.
Verdad sólida, ficción frágil
Para ver si podíamos distinguir entre una teoría de la conspiración y una conspiración real, examinamos Bridgegate, una operación de venganza política lanzada por miembros del personal de la administración del gobernador republicano Chris Christie contra el alcalde demócrata de Fort Lee, Nueva Jersey.
Cuando comparamos los resultados de nuestro sistema de aprendizaje automático usando las dos colecciones separadas, se destacaron dos características distintivas del marco narrativo de una teoría de la conspiración.
Primero, mientras que el gráfico narrativo de Bridgegate tardó de 2013 a 2020 en desarrollarse, el gráfico de Pizzagate se formó completamente y se mantuvo estable en un mes. En segundo lugar, el gráfico de Bridgegate sobrevivió a la eliminación de elementos, lo que implica que la política de Nueva Jersey continuaría como una red única y conectada incluso si se eliminaran las figuras clave y las relaciones del escándalo.
El gráfico de Pizzagate, en cambio, se dividió fácilmente en subgrafos más pequeños. Cuando eliminamos las personas, los lugares, las cosas y las relaciones que provenían directamente de las interpretaciones de los correos electrónicos de WikiLeaks, el gráfico se desmoronó en lo que en realidad eran los dominios desconectados de la política, la comida informal, la vida privada de los Podesta y el mundo extraño del satanismo.
En la siguiente ilustración, los planos verdes son las capas principales de la narrativa, los puntos son los elementos principales de la narrativa, las líneas azules son conexiones entre elementos dentro de una capa y las líneas rojas son conexiones entre elementos a través de las capas.
El plano violeta muestra todas las capas combinadas, mostrando cómo están conectados todos los puntos. Al eliminar el plano de WikiLeaks se obtiene un plano violeta con puntos conectados solo en pequeños grupos.
(Tangherlini et al., CC BY 4.0)
Arriba: Las capas de la teoría de la conspiración de Pizzagate se combinan para formar una narrativa, arriba a la derecha. Elimine una capa, las interpretaciones fantasiosas de los correos electrónicos publicados por WikiLeaks, y toda la historia se desmorona, abajo a la derecha.
¿Sistema de alerta temprana?
Existen claros desafíos éticos que plantea nuestro trabajo. Nuestros métodos, por ejemplo, podrían usarse para generar publicaciones adicionales a una discusión sobre la teoría de la conspiración que se ajusten al marco narrativo en la raíz de la discusión. De manera similar, dado cualquier conjunto de dominios, alguien podría usar la herramienta para desarrollar una teoría de la conspiración completamente nueva.
Sin embargo, esta armamentización de la narración ya se está produciendo sin métodos automáticos, como deja en claro nuestro estudio de los foros de redes sociales. La comunidad investigadora tiene un papel para ayudar a otros a comprender cómo se produce el uso de armas y desarrollar herramientas para las personas y organizaciones que protegen la seguridad pública y las instituciones democráticas.
El desarrollo de un sistema de alerta temprana que rastree el surgimiento y la alineación de las narrativas de la teoría de la conspiración podría alertar a los investigadores, y a las autoridades, sobre las acciones del mundo real que las personas podrían tomar basándose en estas narrativas.
Quizás con tal sistema en su lugar, el oficial que lo arrestó en el caso Pizzagate no se habría desconcertado por la respuesta del pistolero cuando se le preguntó por qué se había presentado en una pizzería armado con un rifle AR-15.
Timothy R. Tangherlini, Catedrático de Literatura y Cultura Danesas, Universidad de California, Berkeley.
Este artículo se vuelve a publicar de La conversación bajo una licencia Creative Commons. Leer el artículo original.
.