Getty Images | Cableado
Cuando los piratas informáticos explotaron un error en Parler para descargar todos los contenidos de la plataforma de redes sociales de derecha la semana pasada, se sorprendieron al descubrir que muchas de las imágenes y videos contenían metadatos de geolocalización que revelaban exactamente cuántos usuarios del sitio habían participó en la invasión del edificio del Capitolio de EE. UU. pocos días antes. Pero los videos subidos a Parler también contienen una cantidad igualmente sensible de datos a plena vista: miles de imágenes de rostros sin máscara, muchos de los cuales participaron en el motín del Capitolio. Ahora, un sitio web ha hecho el trabajo de catalogar y publicar cada una de esas caras en una lista única y fácil de navegar.
A fines de la semana pasada, apareció en línea un sitio web llamado Faces of the Riot, que muestra nada más que una vasta cuadrícula de más de 6,000 imágenes de rostros, cada una etiquetada solo con una serie de caracteres asociados con el video de Parler en el que apareció. El creador del sitio le dice a WIRED que usó un software simple de aprendizaje automático y reconocimiento facial de código abierto para detectar, extraer y deduplicar cada rostro de los 827 videos que se publicaron en Parler desde dentro y fuera del edificio del Capitolio el 6 de enero, el día en que se radicalizó. Los partidarios de Trump irrumpieron en el edificio en un motín que resultó en la muerte de cinco personas. El creador de Faces of the Riot dice que su objetivo es permitir que cualquiera clasifique fácilmente los rostros extraídos de esos videos para identificar a alguien que puedan conocer o reconocer que participó en la mafia, o incluso hacer referencia a los rostros recopilados contra los carteles buscados por el FBI. y enviar una pista a la policía si ven a alguien.
“Todos los que participan en esta violencia, lo que realmente equivale a una insurrección, deben rendir cuentas”, dice el creador del sitio, quien pidió el anonimato para evitar represalias. “Es muy posible que muchas personas que estaban en este sitio web ahora enfrenten consecuencias de la vida real por sus acciones”.
Aparte de las claras preocupaciones de privacidad que plantea, la publicación indiscriminada de rostros de Faces of the Riot no distingue entre infractores de la ley, que pisotearon barreras, irrumpieron en el edificio del Capitolio e invadieron cámaras legislativas, y personas que simplemente asistieron a las protestas en el exterior. Una actualización del sitio hoy agrega hipervínculos de caras a la fuente de video, de modo que los visitantes puedan hacer clic en cualquier cara y ver lo que la persona fue filmada haciendo en Parler. El creador de Faces of the Riot, que dice ser un estudiante universitario en el “área metropolitana de DC”, tiene la intención de que esa característica agregada ayude a contextualizar la inclusión de cada rostro en el sitio y a diferenciar entre espectadores, manifestantes pacíficos e insurrectos violentos.
Admite que él y un co-creador todavía están trabajando para limpiar los rostros de “no alborotadores”, incluidos los de la policía y la prensa que estaban presentes. Un mensaje en la parte superior del sitio también advierte contra las investigaciones de los vigilantes, sugiriendo que los usuarios denuncien a aquellos que reconocen al FBI, con un enlace a una página de consejos del FBI. “Si vas al sitio web y ves a alguien que conoces, es posible que aprendas algo sobre un familiar”, dice. “O podrías decir, oh, conozco a esta persona, y luego transmitir esa información a las autoridades”.
Buscando caras
A pesar de sus renuncias y limitaciones, Faces of the Riot representa los graves peligros para la privacidad de la tecnología generalizada de reconocimiento facial, dice Evan Greer, director de campaña de la organización sin fines de lucro Fight for the Future sobre libertades civiles digitales. “Ya sea que la utilice un individuo o el gobierno, esta tecnología tiene profundas implicaciones para los derechos humanos y la libertad de expresión”, dice Greer, cuya organización ha luchado por una prohibición legislativa de las tecnologías de reconocimiento facial. “Creo que sería un error enorme si saliéramos de este momento glorificando o ensalzando una tecnología que, en términos generales, daña de manera desproporcionada a las comunidades de color, comunidades de bajos ingresos, comunidades de inmigrantes, comunidades musulmanas, activistas … las mismas personas que las caras en este sitio web irrumpieron en el Capitolio con el propósito de silenciar y privar de sus derechos “.
El desarrollador del sitio responde que Faces of the Riot no se apoya en el reconocimiento facial sino en la detección facial. Si bien usó la herramienta de aprendizaje automático de código abierto TensorFlow y el software de reconocimiento facial Dlib para analizar los videos de Parler, dice que usó ese software solo para detectar y “agrupar” rostros de las 11 horas de video del motín del Capitolio; Dlib le permitió deduplicar las 200.000 imágenes de rostros extraídas de los fotogramas de vídeo en alrededor de 6.000 rostros únicos. (Admite que, no obstante, hay algunos duplicados y también se incluyen imágenes de rostros en carteles de protesta. Incluso el número “45” en algunos carteles se identificó en algunos casos como un rostro humano).
También enfatiza que no hay una herramienta de búsqueda en el sitio, y no intenta vincular rostros con nombres u otros detalles de identificación. Tampoco existe ninguna función para cargar una imagen y compararla con las imágenes de la colección del sitio, lo que, según él, podría dar lugar a identificaciones erróneas peligrosas. “No es muy estricto permitir que un usuario tome una foto de un póster buscado y la busque”, dice el creador del sitio. “Eso nunca va a suceder”.
Los aproximadamente 42 gigabytes de videos de Parler que analizó Faces of the Riot se descargaron antes de La decisión de Amazon a principios de la semana pasada de cortar el alojamiento web de Parler, dejando el sitio prácticamente sin conexión desde entonces. Compitiendo contra ese derribo, los hacktivistas se aprovecharon de una falla de seguridad en Parler que les permitió descargar y archivar cada publicación del servicio, que se anuncia a sí mismo como una alternativa de “libertad de expresión” sin censura a Twitter o Facebook. Faces of the Riot obtuvo los videos rescatados de Parler después de que Kyle McDonald, un artista de los medios de comunicación, los puso a disposición en línea de un tercero que se negó a identificar.
El creador del sitio Faces of the Riot inicialmente vio los datos como una oportunidad para experimentar con herramientas de aprendizaje automático, pero rápidamente vio el potencial para un proyecto más público. “Después de unos 10 minutos pensé, esta es en realidad una idea viable y puedo hacer algo que ayude a la gente”, dice. Faces of the Riot es el primer sitio web que ha creado.
McDonald ha criticado anteriormente el poder de la tecnología de reconocimiento facial y él mismo implementó proyectos de reconocimiento facial como ICEspy, una herramienta que lanzó en 2018 para identificar agentes de la agencia de Inmigración y Control de Aduanas. Él le dice a WIRED que también analizó los videos de Parler filtrados con herramientas de reconocimiento facial para ver si podía identificar a las personas, pero solo pudo identificar a dos, los cuales ya habían sido nombrados por los medios. Él ve a Faces of the Riot como “jugar a lo seguro” en comparación incluso con sus propios experimentos de reconocimiento facial, dado que no busca vincular rostros con identidades con nombre. “Y creo que es una buena decisión porque no creo que necesitemos legitimar esta tecnología más de lo que ya lo es y ha sido falsamente legitimado”, dice McDonald.
Pero McDonald también señala que Faces of the Riot demuestra cuán accesibles se han vuelto las tecnologías de reconocimiento facial. “Muestra cómo esta herramienta que se ha restringido solo a las personas que tienen más educación, más poder, más privilegios, se encuentra ahora en este estado más democratizado”, dice McDonald.
El creador del sitio de Faces of the Riot lo ve como más que un proyecto de arte o una demostración. A pesar de las salvaguardias que implementó para limitar su capacidad de identificar automáticamente a las personas, todavía espera que el esfuerzo tenga resultados reales y tangibles, aunque sólo sea indirectamente a través de informes a las fuerzas del orden. “Se siente como si la gente se saliera con la suya con muchas cosas malas durante los últimos cuatro años”, dice. “Esta es una oportunidad para empezar a intentar poner fin a eso”.
Esta historia apareció originalmente en wired.com.