“Mi primera violación y amenazas de muerte se produjeron en 2005”, dice. Farrell escribió una publicación de blog en la que criticaba la respuesta de Estados Unidos al huracán Katrina como racista y, posteriormente, se vio inundada de abusos. Desde entonces, dice, la situación ha empeorado: “Hace aproximadamente una década, tenías que decir algo que atraía el oprobio. Ese no es el caso ahora. Ahora es solo todos los días «. Ella es extremadamente cuidadosa con los servicios que utiliza y tiene mucho cuidado de nunca compartir su ubicación en línea.
Sin embargo, las amenazas de muerte y el abuso en línea no son los únicos problemas en línea que afectan de manera desproporcionada a las mujeres. También hay daños menos tangibles, como la discriminación algorítmica. Por ejemplo, intente buscar en Google los términos «niño de la escuela» y «niña de la escuela». Los resultados de las imágenes para los niños son en su mayoría inocuos, mientras que los resultados para las niñas están dominados por imágenes sexualizadas. Google clasifica estos resultados en función de factores como la página web en la que aparece una imagen, su texto alternativo o título y lo que contiene, de acuerdo con algoritmos de reconocimiento de imágenes. El sesgo se infiltra a través de dos rutas: los propios algoritmos de reconocimiento de imágenes están entrenados en imágenes sexistas y subtítulos de Internet, y las páginas web y los subtítulos que hablan sobre mujeres están sesgados por el sexismo generalizado que se ha construido durante décadas en línea. En esencia, Internet es una máquina de misoginia que se refuerza a sí misma.
Durante años, Facebook ha entrenado sus sistemas de aprendizaje automático para Mancha y borre cualquier imagen que huela a sexo o desnudez, pero se ha informado repetidamente que estos algoritmos son demasiado entusiastas y censuran fotos de mujeres de talla grande, o mujeres amamantamiento sus bebés. El hecho de que la empresa haya hecho esto al mismo tiempo que permitió que el discurso del odio se extendiera desenfrenado en su plataforma no pasa desapercibido para los activistas. «Esto es lo que sucede cuando dejas que los hermanos de Silicon Valley establezcan las reglas», dice Carolina Are, investigadora de sesgos algorítmicos en la City, Universidad de Londres.
Como llegamos aqui
Todas las mujeres con las que hablé para esta historia dijeron que habían experimentado un mayor volumen de acoso en los últimos años. Un posible culpable es el diseño de plataformas de redes sociales y, específicamente, sus fundamentos algorítmicos.
En los primeros días de la web, las empresas de tecnología decidieron que sus servicios estarían respaldados principalmente por publicidad. Simplemente no nos dieron la opción de suscribirnos a Google, Facebook o Twitter. En cambio, la moneda que anhelan estas empresas son los ojos, los clics y los comentarios, todos los cuales generan datos que pueden empaquetar y usar para comercializar a sus usuarios con los clientes reales: los anunciantes.
“Las plataformas intentan maximizar el compromiso (enfado, en realidad) a través de algoritmos que generan más clics”, dice Farrell. Prácticamente todas las plataformas tecnológicas convencionales premian el compromiso por encima de todo. Que privilegia el contenido incendiario. Charlotte Webb, cofundadora del colectivo activista Feminist Internet en 2017, lo expresa sin rodeos: «El odio hace dinero». Facebook hizo un ganancia de $ 29 mil millones en 2020.
