El 10 de mayo, 40 grupos de defensa enviaron una carta abierta exigiendo una prohibición permanente del uso del software de reconocimiento facial de Amazon, Rekognition, por parte de la policía estadounidense. La carta estaba dirigida a Jeff Bezos y Andy Jassy, los directores ejecutivos actuales y entrantes de la compañía, y llegó solo unas semanas antes de que expirara la moratoria de un año de Amazon sobre las ventas a las fuerzas del orden.
La carta contrastó el apoyo vocal de Bezos y Jassy a los activistas de Black Lives Matter durante las protestas de justicia racial del verano pasado después del asesinato de George Floyd con la información de que La policía ha utilizado otros productos de Amazon para identificar a los manifestantes..
El 17 de mayo, Amazon Anunciado ampliaría su moratoria indefinidamente, uniéndose a sus competidores IBM y Microsoft en el purgatorio autorregulado. La medida es un guiño al poder político de los grupos que luchan por frenar la tecnología y el reconocimiento de que están comenzando a surgir nuevos campos de batalla legislativos. Muchos creen que es probable que pronto llegue una legislación federal sustancial.
“La gente está agotada”
El año pasado ha sido fundamental para el reconocimiento facial, incluidas las revelaciones de la tecnología que condujeron a arrestos falsos y las prohibiciones implementadas por casi dos docenas de ciudades y siete estados en los EE. UU. Pero el impulso en torno al reconocimiento facial ha ido cambiando durante algún tiempo.
En 2018, los investigadores de IA publicaron un estudio comparando la precisión del software comercial de reconocimiento facial de IBM, Microsoft y Face ++. Su trabajo encontró brechas de precisión significativas entre la forma en que la tecnología identificaba a los hombres de piel más clara frente a las mujeres de piel más oscura; El sistema de IBM obtuvo la peor puntuación con una tasa de error del 34,4% entre los dos grupos.
También en 2018, la ACLU probó Rekognition de Amazon y descubrió que identificó erróneamente a 28 miembros del Congreso como criminales, lo que se centró desproporcionadamente en las personas de color. La organización escribió su propia carta abierta a Amazon
“Si vamos a comprometernos con la equidad racial en el sistema de justicia penal … una de las cosas más simples y claras que puede hacer es terminar con el uso de la tecnología de reconocimiento facial”.
Michael Ruane, la ACLU
Sin embargo, durante los movimientos de justicia racial contra la brutalidad policial el verano pasado, Amazon sorprendió a muchos al anunciar que estaba deteniendo el uso policial de Rekognition, aunque con excepciones para los agentes de la ley federales como ICE. El anuncio de la compañía decía que esperaba que la pausa “le diera al Congreso el tiempo suficiente para implementar las reglas apropiadas”.
Evan Greer es el director de Fight for the Future, un grupo de defensa de la tecnología que cree en la abolición de la tecnología de reconocimiento facial y dice que existe un creciente apoyo público para que se regule. Ella dice que la extensión de la moratoria de esta semana muestra que “Amazon está respondiendo a esta enorme presión que están recibiendo, no solo en torno al reconocimiento facial. Realmente le doy un gran crédito a los levantamientos a nivel nacional por la justicia racial que han ocurrido durante el último año y medio ”.
“Una realidad política”
Aunque existe una creciente presión sobre los grandes proveedores de tecnología, la realidad es que la mayoría de los usuarios de las fuerzas del orden público y del gobierno no compran software de reconocimiento facial de empresas como Amazon. Entonces, aunque las moratorias y prohibiciones son bienvenidas para los grupos de defensa, no necesariamente impiden que se utilicen las tecnologías. Mientras tanto, el Congreso aún no ha aprobado ninguna legislación federal para frenar el uso de la tecnología de reconocimiento facial por parte de las fuerzas del orden, el gobierno o las entidades comerciales que regularían a los proveedores más pequeños.
Sin embargo, algunos esperan que la legislación federal llegue pronto, ya sea a través de la acción directa del Congreso sobre el reconocimiento facial, una orden ejecutiva presidencial o de manera gradual en los próximos proyectos de ley de apropiación y reforma policial.
“Creo que el mejor de los casos es que el Congreso apruebe una moratoria sobre su uso”, dice Kate Ruane, asesora legislativa senior de la ACLU, y que los nuevos usos solo se permitirían después de más trabajo legislativo.
Ya se han propuesto varios proyectos de ley federales que reinarían en el acceso al reconocimiento facial.
- La Ley de Moratoria de Reconocimiento Facial y Tecnología Biométrica pide la prohibición del software por parte de las entidades federales, así como la retención del dinero de la subvención federal a las autoridades estatales y locales que no promulguen su propia moratoria. Fue propuesto por cuatro miembros demócratas del Congreso y presentado al Senado el año pasado.
- La Ley de Justicia en la Policía de George Floyd evitaría el uso de reconocimiento facial en cámaras corporales. El proyecto de ley ya fue aprobado en la Cámara y se espera que llegue al Senado la semana que viene. El presidente Biden ha pedido que se apruebe el proyecto de ley antes del aniversario de la muerte de George Floyd el 25 de mayo.
- La La cuarta enmienda no está a la venta es un proyecto de ley bipartidista presentado por 18 senadores que limita al gobierno a trabajar con proveedores de tecnología que violan los términos de servicio. En la práctica, evitaría en gran medida el acceso del gobierno a los sistemas que participan en el web scraping, como Clearview AI.
Mutale Nkonde, el CEO fundador de AI for the People, una organización sin fines de lucro que aboga por la justicia racial en la tecnología, cree que es probable que veamos legislación federal adicional para las elecciones de mitad de período del próximo año.
“Creo que se introducirá una legislación federal que regirá todos los sistemas algorítmicos, incluido el reconocimiento facial”, dice Nkonde. “Creo que esa es una realidad política”.
Nkonde dice que el concepto de evaluaciones de impacto que evalúan los sistemas tecnológicos sobre la base de los derechos civiles está ganando terreno en los círculos políticos, en ambos lados del pasillo.