¿Por qué algunas ciudades y estados se resisten a la tecnología de reconocimiento facial?

SPRINGFIELD, MA – Los departamentos de policía de los EE. UU. Están pidiendo a los ciudadanos que confíen en ellos para usar el software de reconocimiento facial como otra herramienta útil en su caja de herramientas para combatir el crimen. Pero algunos legisladores, e incluso algunos gigantes de la tecnología, están frenando.

¿Se exageran los temores de un aparato de seguridad artificialmente inteligente que todo lo ve? No si se mira a China, donde los avances en la visión por computadora aplicados a vastas redes de cámaras de calle han permitido a las autoridades rastrear a miembros de grupos étnicos minoritarios para signos de comportamiento subversivo.

Los funcionarios de la policía estadounidense y sus socios de la industria de videovigilancia sostienen que eso no sucederá aquí. Están rechazando un movimiento de los legisladores de ciudades, estados y federales para prohibir o restringir el uso de la tecnología. Y los esfuerzos no se limitan a los bastiones típicos del activismo liberal que promulgaron prohibiciones este año: San Francisco, Oakland, Berkeley y los suburbios de Boston Somerville y Brookline

Tome la ciudad de Springfield, en el oeste de Massachusetts, un antiguo centro de fabricación donde la mayoría de los 155,000 residentes son latinos o negros, y donde la brutalidad policial y las demandas por mala conducta le han costado a la ciudad millones de dólares. La policía de Springfield dice que no tiene planes de implementar sistemas de reconocimiento facial, pero algunos concejales municipales se están moviendo para bloquear cualquier uso futuro de la tecnología por parte del gobierno.

En una audiencia sobre el tema en octubre, el concejal de Springfield, Orlando Ramos, dijo que no quiere correr ningún riesgo. "Solo conduciría a una mayor discriminación racial y perfil racial", dijo, citando estudios que encontraron mayores tasas de error para el software de reconocimiento facial utilizado para identificar mujeres y personas con tonos de piel más oscuros.

"Soy una mujer negra y oscura", dijo otra concejal de Springfield, Tracye Whitfield, a la comisaria de policía de la ciudad, Cheryl Clapprood, que es blanca. "No puedo aprobar algo que vaya a apuntarme más de lo que te apuntará a ti".

Clapprood defendió la tecnología y le pidió al consejo que confiara en ella para seguirla con cuidado. "La tecnología de reconocimiento facial no aparece y deja caer una red desde el cielo y te lleva a la cárcel", dijo, y señaló que podría servir como una herramienta de investigación útil al señalar a los sospechosos buscados.

El consejo aún no ha actuado, y el alcalde de Springfield ha amenazado con vetar la propuesta que Ramos planea reintroducir en enero.

Debates similares en todo el país destacan las preocupaciones raciales y las interpretaciones en duelo de la precisión de la tecnología.

"Desearía que nuestro liderazgo analizara la ciencia y no la histeria", dijo el alcalde de Lancaster, California, R. Rex Parris, cuya ciudad al norte de Los Ángeles está trabajando para instalar más de 10,000 cámaras de alumbrado público que Parris dice que podrían monitorear los pedófilos conocidos y miembros de pandillas. "Hay formas de construir salvaguardas".

La investigación sugiere que los sistemas de reconocimiento facial pueden ser precisos, al menos en condiciones ideales. Una revisión de los principales algoritmos de reconocimiento facial de la industria realizada por el Instituto Nacional de Estándares y Tecnología descubrió que tenían una precisión de más del 99% al combinar disparos a la cabeza de alta calidad con una base de datos de otras poses frontales.

Pero tratar de identificar una cara de una fuente de video, una técnica potencialmente útil para los detectives, puede provocar que las tasas de precisión caigan. NIST descubrió que la precisión del reconocimiento podría caer por debajo del 10% cuando se usan cámaras montadas en el techo que se encuentran comúnmente en tiendas y edificios gubernamentales.

La agencia no ha estudiado el rendimiento del reconocimiento facial en las imágenes de la cámara del cuerpo, aunque los expertos generalmente creen que su video a menudo nervioso hará que la técnica sea aún menos confiable.

En octubre, el gobernador de California Gavin Newsom firmó una prohibición temporal en departamentos de policía usando reconocimiento facial con cámaras corporales. Algunos otros estados tienen restricciones similares.

Si bien la moratoria de tres años de California se opuso a los grupos de aplicación de la ley, las compañías que proporcionan equipos de videovigilancia han reaccionado principalmente con encogimientos de hombros. Muchas empresas ya se estaban moviendo con cuidado antes de someterse a los riesgos legales, éticos y publicitarios de una tecnología que enfrenta la reacción violenta de los defensores de la privacidad, las libertades civiles y la justicia racial, sin mencionar la preocupación bipartidista en el Congreso.

Axon, que suministra cámaras para el cuerpo a la mayoría de las grandes ciudades de California y es el mayor proveedor a nivel nacional, ya había formado una junta de expertos en ética de IA de expertos externos que concluyeron la tecnología de reconocimiento facial aún no es lo suficientemente confiable para justificar su uso en cámaras policiales. La identificación falsa podría llevar a alguien a ser herido o asesinado, dijo el CEO de Axon, Rick Smith.

Incluso si el software de reconocimiento facial fuera perfectamente preciso, dijo Smith en una entrevista, la capacidad de rastrear el paradero de las personas plantea problemas constitucionales y de privacidad. "¿Queremos que todos los que caminan cerca de un oficial de policía identifiquen su rostro y se registren en una base de datos?", Dijo.

El año pasado, Microsoft rechazó la solicitud de una agencia de policía de California no identificada de equipar todos los coches de policía y cámaras corporales con el software de reconocimiento facial de Microsoft, escribió el presidente y director legal de la compañía, Brad Smith, en un nuevo libro sobre política tecnológica. Dijo que la policía quería comparar una foto de cualquier persona detenida, incluso de forma rutinaria, con una base de datos de sospechosos de otros delitos.

Smith dijo que la tecnología identificaría erróneamente a demasiadas personas, especialmente mujeres y personas de color. El ejecutivo advirtió que el reconocimiento facial no regulado podría desencadenar "vigilancia masiva en una escala sin precedentes", aunque se opone a una prohibición total. Microsoft en noviembre contrató a un abogado para hablar en contra de un prohibición propuesta en Portland, Maine

Otras empresas, incluida Amazon, que comercializa un sistema de identificación facial llamado Rekognition a la policía, han mostrado menos reparos en vender su tecnología a la policía. Algunas agencias de aplicación de la ley introducen imágenes de videovigilancia en software que puede buscar bases de datos gubernamentales o redes sociales para encontrar una posible coincidencia.

Todd Pastorini, gerente general de la empresa de análisis forense biométrico DataWorks Plus, dijo que es importante distinguir entre la vigilancia de multitudes en tiempo real, que es poco común en los EE. UU., Y el método "extremadamente efectivo" de pasar imágenes a través de un grupo de fotografías policiales conocidas o de conductores licencia fotos para ayudar a identificar a un sospechoso.

"La sociedad y el público se frustrarán" si los gobiernos impiden que las fuerzas del orden adopten una tecnología que siga mejorando, dijo.

Entre los clientes más importantes de su compañía de Carolina del Sur se encuentran Detroit y la ciudad de Nueva York, la última de las cuales adoptó el reconocimiento facial en 2011 y también utiliza software de la compañía francesa Idemia.

"Me opondría absolutamente a una prohibición", dijo el comisionado de policía de la ciudad de Nueva York, James O'Neill, a los periodistas este otoño.

O'Neill, quien se retiró a principios de diciembre, agregó que los golpes de reconocimiento facial son solo una parte de una investigación. "Hay tanto video en la ciudad de Nueva York hoy que no usar el reconocimiento facial sería irresponsable", dijo.