Mientras que los legisladores de la UE están considerando una prohibición temporal del uso del reconocimiento facial para salvaguardar los derechos de las personas, como parte de un plan centrado en el riesgo para regular AI, La Met Police de Londres ha avanzado hoy con el despliegue de la tecnología hostil de privacidad, activando el uso operativo del reconocimiento facial en vivo en la capital del Reino Unido.
El despliegue se produce después de un período de juicios de varios años por el Met y la policía en el sur de Gales.
El Met dice que su uso de la controvertida tecnología estará dirigido a "ubicaciones específicas … donde la inteligencia sugiere que es más probable que ubiquemos delincuentes graves".
"Cada despliegue tendrá una" lista de observación "a medida, compuesta de imágenes de personas buscadas, predominantemente aquellas buscadas por delitos graves y violentos", agrega.
También afirma que las cámaras estarán "claramente señalizadas", y agregó que los oficiales serán "desplegados en la operación y repartirán folletos sobre la actividad".
"En un despliegue, las cámaras se enfocarán en un área pequeña y específica para escanear a los transeúntes", escribe. "La tecnología, que es un sistema independiente, no está vinculada a ningún otro sistema de imágenes, como CCTV, video usado en el cuerpo o ANPR".
El sistema biométrico está siendo provisto al Met por el gigante japonés de TI y electrónica, Comité ejecutivo nacional.
En un comunicado de prensa, el comisionado asistente Nick Ephgrave afirmó que la fuerza está adoptando un enfoque equilibrado para utilizar la tecnología controvertida.
“Todos queremos vivir y trabajar en una ciudad segura: el público con razón espera que usemos tecnología ampliamente disponible para detener a los delincuentes. Igualmente, debo asegurarme de que tenemos las salvaguardas y la transparencia adecuadas para garantizar la protección de la privacidad y los derechos humanos de las personas. Creo que nuestro despliegue cuidadoso y considerado de reconocimiento facial en vivo logra ese equilibrio ”, dijo.
Londres ha visto un aumento en la delincuencia violenta en los últimos años, con tasas de asesinatos que alcanzan un pico de diez años el año pasado.
El aumento de la delincuencia violenta se ha relacionado con recortes en los servicios policiales, aunque el nuevo gobierno conservador se ha comprometido a revertir los recortes promulgados por las administraciones conservadoras anteriores.
El Met dice que su esperanza para la tecnología impulsada por la inteligencia artificial será ayudarlo a enfrentar delitos graves, incluida la violencia grave, el crimen con armas y cuchillos, la explotación sexual infantil y "ayudar a proteger a los vulnerables".
Sin embargo, su fraseo no es un poco irónico, dado que los sistemas de reconocimiento facial pueden ser propensos al sesgo racial, por ejemplo, debido a factores como el sesgo en los conjuntos de datos utilizados para entrenar algoritmos de IA.
De hecho, existe el riesgo de que el uso policial del reconocimiento facial pueda dañar aún más a los grupos vulnerables que ya enfrentan un riesgo desproporcionado de desigualdad y discriminación.
Sin embargo, el RP del Met no menciona el riesgo del sesgo de automatización de la tecnología de inteligencia artificial.
En cambio, se esfuerza por poner la tecnología como "herramienta adicional" para ayudar a sus oficiales.
“Este no es un caso de tecnología que se hace cargo de la vigilancia policial tradicional; este es un sistema que simplemente le da a los oficiales de policía un 'aviso', sugiriendo que "esa persona allí puede ser la persona que está buscando", siempre es la decisión de un oficial si se compromete o no con alguien ", agrega .
Si bien el uso de una nueva herramienta tecnológica puede comenzar con pequeñas implementaciones, como se está promocionando aquí, la historia del desarrollo de software subraya cómo el potencial para escalar se integra fácilmente.
Un lanzamiento a pequeña escala "dirigido" también prepara el terreno para que la fuerza policial de Londres impulse una aceptación pública más amplia de una tecnología altamente controvertida y hostil a los derechos a través de un proceso gradual de construcción. Aka vigilancia sigilosa.
Por otro lado, el texto del borrador de una propuesta de la UE para regular la IA que se filtró la semana pasada – flotando la idea de una prohibición temporal del reconocimiento facial en lugares públicos – señaló que una prohibición "salvaguardaría los derechos de las personas". Aunque aún no está claro si la Comisión favorecerá una medida tan general, incluso temporalmente.
Los grupos de derechos del Reino Unido han reaccionado alarmados ante la decisión del Met de ignorar las preocupaciones sobre el reconocimiento facial.
Libertad acusó a la fuerza de ignorar la conclusión de un reporte se encargó durante una prueba anterior de la tecnología, que según se concluyó, el Met no había considerado los impactos en los derechos humanos.
También sugirió que dicho uso no cumpliría con los requisitos legales clave.
"La ley de derechos humanos requiere que cualquier interferencia con los derechos de las personas sea conforme a la ley, persiga un objetivo legítimo y sea 'necesaria en una sociedad democrática'", señala el informe, sugiriendo que el Met realizó ensayos anteriores de tecnología de reconocimiento facial " ser considerado ilegal si se le impugna ante los tribunales ".
UN petición creado por Liberty para exigir un alto al reconocimiento facial en lugares públicos, ha pasado 21,000 firmas.
Discutir el marco legal sobre el reconocimiento facial y la aplicación de la ley la semana pasada, El Dr. Michael Veale, profesor de derechos digitales y regulación en UCL, nos dijo que, en su opinión, el marco de protección de datos de la UE, GDPR, prohíbe el reconocimiento facial por parte de empresas privadas "en un contexto de vigilancia sin que los Estados miembros legislen activamente una exención a la ley usando sus poderes para derogar ”.
Un hombre del Reino Unido que desafió el juicio de reconocimiento facial de una fuerza policial galesa tiene un apelación pendiente después de perder la primera ronda de un desafío de derechos humanos. Aunque en ese caso el desafío se refiere al uso de la tecnología por parte de la policía, en lugar de, como en el caso del Met, una empresa privada (NEC) que brinda el servicio a la policía.