"Es de suma importancia y urgencia que la UE impida el despliegue de tecnologías de vigilancia e identificación masivas sin comprender completamente sus impactos sobre las personas y sus derechos", advirtió Diego Naranjo, jefe de política de European Digital Rights.
Pero la vicepresidenta de la comisión, Margarethe Vestager, dijo el miércoles que el organismo ejecutivo de la UE lanzará "un amplio debate europeo para determinar las circunstancias específicas, si las hay, que podrían justificar el uso" del reconocimiento facial.
Según Naranjo, "el debate propuesto debería conducir a la prohibición del despliegue de sistemas de reconocimiento facial en vivo (y tecnologías biométricas similares) en los Estados miembros".
"El reconocimiento facial y la identificación biométrica son enormemente invasivos para la privacidad y su uso puede acarrear muchos riesgos para los consumidores", dijo David Martin, de la Organización Europea de Consumidores, quien agregó que "sería descuidado expandir el uso de esta tecnología hasta todas las garantías necesarias están en su lugar".
La comisión quiere asegurar la adopción de IA "confiable, ética y centrada en el ser humano" en toda la UE mediante el establecimiento de nuevos requisitos vinculantes para el desarrollo y uso de aplicaciones de "alto riesgo".
Sin embargo, los riesgos de las tecnologías de reconocimiento facial, que toman decisiones basadas en la interpretación de imágenes, varían según su propósito; por ejemplo, desbloquear un teléfono inteligente no representa un "alto riesgo" para los derechos fundamentales de los ciudadanos.
¿Qué es 'alto riesgo'?
Todas las aplicaciones de "alto riesgo" deberán cumplir con nuevas reglas, incluidas las obligaciones de alta calidad de datos y trazabilidad, supervisión humana y estándares de transparencia durante todo el ciclo de vida de desarrollo de estas tecnologías.
Sin embargo, la comisión reconoció que "la falta de transparencia (de los sistemas de IA) hace que sea difícil identificar y probar posibles infracciones de las leyes, incluidas las disposiciones legales que protegen los derechos fundamentales".
Además, el reconocimiento facial estaría sujeto a los requisitos de 'proporcionalidad', una evaluación para garantizar que la tecnología se utilice de manera proporcional y con suficientes garantías para proteger a las personas.
"La IA solo puede usarse para fines de identificación biométrica remota (reconocimiento facial) cuando dicho uso esté debidamente justificado, sea proporcional y esté sujeto a las garantías adecuadas", señala el documento de la comisión sobre IA.
Sin embargo, los críticos advirtieron que estas medidas, destinadas a reducir el sesgo y el error, no abordan las amenazas que la tecnología representa para la privacidad de los ciudadanos.
"Los sistemas modernos permiten la vigilancia constante de las personas durante largos períodos, lo que simplemente no es compatible con una sociedad libre y democrática", dijo la eurodiputada Alexandra Geese (Green / EFA), quien es la relatora sobre los aspectos éticos de la IA para el mercado interno del parlamento. y comité de protección al consumidor.
"El diablo está en los detalles: en la definición precisa de alto riesgo y en las posibilidades de defenderse contra aplicaciones de IA discriminatorias o inexactas", agregó.
¿Vigilando a la policía?
En noviembre pasado, la Agencia Europea de Derechos Fundamentales dijo que "un marco legal claro debe regular el despliegue y el uso de tecnologías de reconocimiento facial", advirtiendo que la recopilación de imágenes faciales de personas sin su consentimiento o posibilidad de rechazo "puede tener un impacto negativo en las personas dignidad".
Sin embargo, la comisión consideró que el marco legal básico para el reconocimiento facial podría ya estar establecido en virtud del Reglamento General de Protección de Datos (GDPR) del bloque, y prefiere centrarse en la aplicación.
Como regla general, el RGPD prohíbe el procesamiento de datos biométricos, como imágenes faciales o huellas digitales, sin consentimiento, a menos que se aplique una excepción específica.
Sin embargo, cada vez más países europeos han estado probando estas tecnologías en los últimos años por las autoridades policiales, lo que ha generado preocupaciones sobre los riesgos de privacidad y discriminación.
"Las fuerzas policiales en casi todos los países de la UE ya utilizan el reconocimiento facial o planean presentarlo, y ninguno de ellos es totalmente transparente sobre su uso", advirtió Nicolas Kayser-Bril de la ONG AlgorithmWatch.
Algunos de los estados miembros que han probado o implementado tecnologías de reconocimiento facial por razones de seguridad incluyen Alemania, Francia, Italia, Suecia, Bélgica y los Países Bajos.
El mes pasado, un documento filtrado mostró que la comisión estaba considerando una prohibición temporal de las tecnologías de reconocimiento facial en espacios públicos para comprender mejor sus riesgos potenciales, pero la propuesta fue rechazada rápidamente.
"Quiero que la Europa digital refleje lo mejor de Europa: abierta, justa, diversa, democrática y segura", dijo la presidenta de la comisión, Ursula von der Leyen, quien afirmó que "la IA debe servir a las personas y siempre debe cumplir con los derechos de las personas".