los
Unión Americana de Libertades Civiles a principios de esta semana criticó desarrollador de herramientas de reconocimiento facial
Vista clara por hacer afirmaciones engañosas sobre la precisión de su producto.
Al parecer, Clearview ha estado diciendo a las agencias de aplicación de la ley que su tecnología se sometió a pruebas de precisión modeladas en la prueba de ACLU 2018 de la herramienta de reconocimiento facial Rekognition de Amazon.
Para esa prueba, la ACLU simuló la forma en que las fuerzas del orden utilizaron Rekognition en el campo, haciendo coincidir las fotos de los 535 miembros del Congreso de los Estados Unidos con una base de datos que construyó de 25,000 fotografías de detenidos disponibles públicamente.
Rekognition coincidió incorrectamente con 28 legisladores con fotos de los arrestados. Las coincidencias falsas presentaban desproporcionadamente a legisladores de color.
Prueba de Clearview examinada
Según los informes, la prueba de precisión de Clearview comparó los disparos a la cabeza de los 535 miembros del Congreso, los 119 miembros de la Legislatura del Estado de California y 180 miembros de la Legislatura del Estado de Texas contra su base de datos.
Clearview tiene una base de datos de aproximadamente 2.800 millones de caras extraídas de varias redes sociales y otros sitios web públicos de Internet.
La prueba de Clearview "no podría ser más diferente del trabajo de la ACLU, y deja preguntas cruciales sin respuesta", escribió Jacob Snow, un abogado de tecnología y libertades civiles de la ACLU. "En lugar de buscar legisladores en una base de datos de fotos de arrestos, Clearview aparentemente buscó en su propia base de datos de fotos sombreada".
El informe de la prueba de precisión de la compañía, con fecha de octubre de 2019, fue firmado por tres personas: Jonathan Lippmann, juez principal de la Corte de Apelaciones de Nueva York de 2009 a 2015; Nicholas Cassimatis, ex jefe del Laboratorio de innovación de inteligencia en Samsung Research America; y Aaron Renn, un analista de políticas urbanas que anteriormente era socio de Accenture.
Los tres calificaron a Clearview con un 100% de precisión. Sin embargo, ninguno de ellos tiene experiencia en reconocimiento facial.
No hay indicios de que Clearview haya sometido su producto a pruebas rigurosas, sostuvo Snow de la ACLU. Es probable que la precisión de un algoritmo se reduzca en el mundo real debido a la calidad de la foto, la iluminación, el sesgo del usuario y otros factores.
"La imitación puede ser la forma más sincera de adulación, pero es una adulación de la que podemos prescindir", escribió Snow. "Si Clearview está tan desesperado por comenzar a salvar su reputación, debería dejar de fabricar respaldos y comenzar a eliminar los miles de millones de fotos que conforman su base de datos, apague sus servidores y salga del negocio de vigilancia por completo ".
Zumbido malo
Clearview ha generado una considerable controversia con sus campañas publicitarias y afirmaciones:
- Afirma haber ayudado al Departamento de Policía de Nueva York a arrestar a sospechosos en al menos dos casos, lo que la policía de Nueva York niega;
- Las afirmaciones de Clearview de tener más o menos mil fuerzas policiales utilizando su aplicación no han sido fundamentadas;
- Twitter, Google, Facebook, YouTube, Venmo y LinkedIn han escrito a la compañía exigiendo que deje de raspar fotos de sus plataformas;
- Las preocupaciones sobre la tecnología de Clearview llevaron a EPIC y otras organizaciones a escribir la Junta de Privacidad y Libertades Civiles exigiendo la suspensión de los sistemas de reconocimiento facial en espera de una revisión adicional;
- los Fundación Electronic Frontier ha pedido una legislación federal de privacidad integral sobre la recopilación de datos;
- El senador Ed Markey, D-Mass., Escribió Clearview exigiendo información sobre su comercialización a las agencias de aplicación de la ley considerando su tecnología; y
- Se ha presentado una demanda en busca de un estado de demanda colectiva en un tribunal de Illinois alegando que el producto de Clearview infringe la información biométrica del estado. Ley de Privacidad (BISA).
El incumplimiento de BISA le costó a Facebook una multa de US $ 550 millones, un récord para cualquier demanda de privacidad.
Clearview "parece ser extremadamente deshonesto con sus afirmaciones y, como compañía, no son confiables", observó Rob Enderle, analista principal de Grupo Enderle.
"Dado eso, no se puede confiar realmente en lo buena que es la herramienta", dijo a TechNewsWorld. "Así que tomará mucho calor desplegándolo y luego, si no funciona, se verá como un idiota. Eso podría ser una carrera para los involucrados".
Uso apropiado de tecnología
La Oficina Federal de Investigaciones de EE. UU. Dictaminó que su Sistema de Identificación de Próxima Generación (NGI) está exento de una o más disposiciones de la Ley de Privacidad de 1974.
Esa es una de las razones por las que el reconocimiento facial genera preocupaciones. Otra es que algunas escuelas han comenzado a usar sistemas de reconocimiento facial.
"A todos les preocupa que el uso irrestricto del reconocimiento facial pueda ser perjudicial para la libertad personal", dijo Mike Jude, director de investigación de IDC.
"Clearview actualmente no está regulado y, obviamente, tiene un poderoso incentivo para promover el uso del reconocimiento facial", dijo a TechNewsWorld.
Los falsos positivos son siempre un problema, señaló Jude. "El reconocimiento facial no es infalible". Es simplemente un caso de fotos de basura adentro, identificaciones de basura afuera ".
Sin embargo, la tecnología "puede ser una herramienta muy valiosa en diversas áreas, incluido el comercio minorista", según cómo se use, dijo.
"Sería desafortunado si arrojáramos al bebé con el agua del baño", dijo Jude. "Probablemente habrá leyes que buscan controlar el uso del reconocimiento facial".
La Unión Europea, que inicialmente consideró una prohibición de cinco años para el reconocimiento facial en lugares públicos, decidió dejar que los Estados miembros se ocuparan del problema.
Las autoridades de protección de datos francesas y suecas han descartado el uso de software de reconocimiento facial en las escuelas.
En el Reino Unido, la policía usa la tecnología, que han implementado en Londres.
En China, registrarse para un servicio de telefonía móvil requiere un escaneo facial. Mientras tanto, India se está preparando para instalar un sistema de reconocimiento facial a nivel nacional.
En los EE. UU., Oregón, Nuevo Hampshire y California han prohibido la tecnología, pero solo en cámaras corporales policiales. Varias ciudades, incluidas San Francisco y Oakland, lo prohíben por completo.
"El reconocimiento facial está llegando, nos guste o no", predijo Enderle. "Esto significa que debe centrarse más en mejorar los conjuntos de capacitación y establecer reglas sobre dónde y cuándo se pueden usar estas herramientas".
Richard Adhikari ha sido reportero de ECT News Network desde 2008. Sus áreas de enfoque incluyen seguridad cibernética, tecnologías móviles, CRM, bases de datos, desarrollo de software, computación mainframe y de rango medio, y desarrollo de aplicaciones. Ha escrito y editado para numerosas publicaciones, incluyendo Semana informativa y Mundo de la informática. Es autor de dos libros sobre tecnología cliente / servidor.
Correo electrónico a Richard.