Antes de que Facebook cerrara el jueves el grupo de Facebook “Stop the Steal” de rápido crecimiento, el foro incluía llamadas a los miembros para que prepararan sus armas en caso de que el presidente Donald Trump perdiera su candidatura para permanecer en la Casa Blanca.
Al inhabilitar al grupo después de la cobertura de Reuters y otras organizaciones de noticias, Facebook citó los esfuerzos del foro para deslegitimar el proceso electoral y “los llamamientos preocupantes de violencia de algunos miembros”.
Tal retórica no era infrecuente en el período previo a las elecciones en los Grupos de Facebook, un impulsor clave del compromiso para la red social más grande del mundo, pero no siempre recibió el mismo tratamiento.
Una encuesta de grupos de Facebook
Las variaciones de veinte frases que podrían asociarse con llamadas a la violencia, como “bloquear y cargar” y “necesitamos una guerra civil”, aparecieron junto con referencias a los resultados de las elecciones en aproximadamente 41.000 casos en los grupos públicos de Facebook con sede en EE. UU. En los dos período del mes.
Otras frases, como “dispárales” y “mátalos a todos”, se utilizaron en grupos públicos al menos 7.345 veces y 1.415 veces, respectivamente, según CounterAction. “Hang him” apareció 8.132 veces. “Es hora de empezar a disparar, amigos”, decía un comentario.
Facebook dijo que estaba revisando los hallazgos de CounterAction, que Reuters compartió con la compañía, y que tomaría medidas para hacer cumplir las políticas “que reducen los daños en el mundo real y los disturbios civiles, incluso en Grupos”, según un comunicado proporcionado por la portavoz Dani Lever.
La compañía se negó a decir si los ejemplos compartidos por Reuters violaron sus reglas o decir dónde traza la línea al decidir si la frase “incita o facilita violencia grave”, que, según sus políticas, es motivo de eliminación.
Los fiscales han vinculado varias conspiraciones de milicias interrumpidas con grupos de Facebook este año, incluido un ataque planificado contra manifestantes de Black Lives Matters en Las Vegas y un plan para secuestrar al gobernador de Michigan.
Para abordar las preocupaciones, Facebook anunció una serie de cambios de política desde el verano destinados a frenar los “movimientos sociales militarizados”, incluidas las milicias estadounidenses, las redes Boogaloo y el movimiento de conspiración QAnon.
Dice que ha eliminado 14.200 grupos sobre la base de esos cambios desde agosto.
A medida que la presión sobre la empresa se intensificaba antes de las elecciones, Zuckerberg dijo que Facebook detendría las recomendaciones para grupos políticos y nuevos grupos, aunque esa medida no impidió que el grupo “Stop the Steal” aumentara a más de 365.000 miembros en menos de 24 horas.
Conexiones significativas
Facebook ha promovido Grupos de manera agresiva desde que el presidente ejecutivo Mark Zuckerberg los convirtió en una prioridad estratégica en 2017, diciendo que alentarían más “conexiones significativas”, y este año presentó el negocio en un comercial del Super Bowl.
El mes pasado intensificó la promoción de Grupos en las fuentes de noticias y los resultados de los motores de búsqueda, incluso cuando las organizaciones de derechos civiles advirtieron que el producto se había convertido en un caldo de cultivo para el extremismo y la desinformación.
Cualquier usuario de Facebook puede ver, buscar y unirse a los grupos públicos. Los grupos también ofrecen opciones privadas que ocultan publicaciones, o la existencia del foro, incluso cuando un grupo tiene cientos de miles de miembros.
Facebook ha dicho que depende en gran medida de la inteligencia artificial para monitorear los foros, especialmente los grupos privados, que generan pocos informes de mal comportamiento de los usuarios, ya que los miembros tienden a tener ideas afines, para marcar publicaciones que pueden incitar acciones violentas a los revisores de contenido humano.
Si bien el uso de lenguaje violento no siempre equivale a una amenaza procesable, Matthew Hindman, un experto en aprendizaje automático y medios en la Universidad George Washington que revisó los resultados, dijo que la inteligencia artificial de Facebook debería haber podido seleccionar términos comunes para su revisión.
“Si todavía encuentras miles de casos de ‘dispararles’ y ‘conseguir una cuerda’, estás viendo un problema sistémico. No hay forma de que un sistema moderno de aprendizaje automático pierda algo así”, dijo.
© Thomson Reuters 2020