Facebook dio a conocer una iniciativa el martes para asumir "memes de odio" mediante el uso de inteligencia artificial, respaldada por el abastecimiento público, para identificar publicaciones motivadas maliciosamente.
La red social líder dijo que ya había creado una base de datos de 10,000 memes, imágenes a menudo mezcladas con texto para entregar un mensaje específico, como parte de un esfuerzo acelerado contra el discurso de odio.
Facebook dijo que estaba lanzando la base de datos a los investigadores como parte de un "Desafío Hateful Memes" para desarrollar algoritmos mejorados para detectar mensajes visuales impulsados por el odio, con un premio de $ 100,000 (aproximadamente Rs. 75.4 lakh).
"Estos esfuerzos estimularán a la comunidad de investigación de IA en general a probar nuevos métodos, comparar su trabajo y comparar sus resultados para acelerar el trabajo en la detección del discurso de odio multimodal", dijo Facebook en un entrada en el blog.
El esfuerzo de Facebook se produce cuando se apoya más en la inteligencia artificial para filtrar el contenido objetable durante la pandemia de coronavirus que ha dejado de lado a la mayoría de sus moderadores humanos.
Su informe trimestral de transparencia dice que Facebook eliminó unos 9.6 millones de publicaciones por violar las políticas de "discurso de odio" en los primeros tres meses de este año, incluyendo 4.7 millones de contenidos "conectados al odio organizado".
Facebook dijo que la IA se ha sintonizado mejor en el filtrado a medida que la red social recurre más a las máquinas como resultado de los bloqueos.
Guy Rosen, vicepresidente de integridad de Facebook, dijo que con AI, "podemos encontrar más contenido y ahora podemos detectar casi el 90 por ciento del contenido que eliminamos antes de que alguien nos lo informe".
Facebook dijo que se comprometió a "interrumpir" la conducta de odio organizada hace un año después de los ataques mortales de la mezquita en Nueva Zelanda que provocaron un "llamado a la acción" por parte de los gobiernos para frenar la propagación del extremismo en línea.
Los sistemas automatizados y la inteligencia artificial pueden ser útiles, dijo Facebook, para detectar contenido extremista en varios idiomas y analizar texto incrustado en imágenes y videos para comprender su contexto completo.
Mike Schroepfer, director de tecnología de Facebook, dijo a los periodistas en una conferencia telefónica que una de las técnicas que ayudaron a este esfuerzo fue un sistema para identificar imágenes "casi idénticas", para abordar la publicación de imágenes y videos maliciosos con pequeños cambios para evadir la detección.
"Esta tecnología puede detectar coincidencias casi perfectas", dijo Schroepfer.
Heather Woods, profesora de la Universidad del Estado de Kansas que estudia memes y contenido extremista, agradeció la iniciativa de Facebook y la inclusión de investigadores externos.
"Los memes son notoriamente complejos, no solo porque son multimodales, incorporando imágenes y texto, como señala Facebook, sino porque son contextuales", dijo Woods.
"Me imagino que los matices y la especificidad contextual de los memes seguirán siendo un desafío para Facebook y otras plataformas que buscan eliminar el discurso de odio".
¿Mi 10 es un OnePlus 8 costoso o un presupuesto económico S20 Ultra? Hablamos de esto en Orbital, nuestro podcast de tecnología semanal, al que puede suscribirse a través de Podcasts de Apple o RSS, descarga el episodio, o simplemente presiona el botón de reproducción a continuación.