No es raro que el Consejo de la UE esté desconectado de la opinión pública. Esto ha sucedido una vez más con la Ley de IA de la UE, al eximir de supervisión y controles a los sistemas de IA desarrollados o utilizados para ‘fines de seguridad nacional’. Esperamos que la Comisión de la UE y el Parlamento remedien esto.
‘Seguridad nacional’ significa diferentes cosas para diferentes personas, sin una definición estricta y acordada. Por lo tanto, cualquier exención por sí misma es vaga desde el principio y abierta al abuso. Depende en gran medida de las clasificaciones de los gobiernos nacionales, que podrían usar su definición para etiquetar a sus ciudadanos o grupos de interés (por ejemplo, manifestantes climáticos) como ‘extremistas’ o ‘terroristas’.
En el contexto del uso de poderosas herramientas de IA, como el reconocimiento facial para la vigilancia, una exención de “seguridad nacional” puede dañar nuestros derechos y libertades fundamentales. La vigilancia ha sido ya
Los ciudadanos europeos reconocen esta amenaza. En un resultado de 12 países europeosuna muestra representativa de ciudadanos proporcionó puntos de vista en gran medida unísonos sobre el uso de la IA por parte de las instituciones públicas, especialmente en el contexto de la seguridad nacional.
Más de la mitad de los adultos están preocupados por el uso de la IA en la seguridad o la defensa nacional, y una clara mayoría (más del 70 %) pensó que los gobiernos siempre deberían respetar los derechos de todas las personas y grupos en este contexto, es decir, sin excepciones.
Además, casi dos tercios se sentirían preocupados si otro país de la UE al que viajaran tuviera menos protección de sus derechos y libertades en lo que respecta al uso de IA por parte de los servicios secretos, un escenario fácilmente imaginable si se incluye esta exención.
Parece que los Estados miembros de la UE están desconectados de lo que significa la seguridad para sus ciudadanos. Basado en el propuesta de Ley de IA de la UE, cualquier sistema de IA que represente un alto riesgo para los derechos de las personas (como la IA en el contexto de vigilancia y control fronterizo) debería desarrollarse y utilizarse bajo un mayor escrutinio y evaluación.
La propuesta original de la Comisión no incluía exenciones específicas con respecto a la IA desarrollada o utilizada con fines de seguridad nacional, dejando que el asunto se aclare en virtud de las normas sobre la división de competencias entre la UE y los Estados miembros.
Sin embargo, el Consejo, desde su primera propuesta de compromiso, indicó que los estados miembros quieren eliminar las reglas para el uso de la IA en defensa y seguridad nacional. El Consejo incluso amplió esa exención general en el último texto de compromiso filtrado para incluir no solo los sistemas de IA desarrollados o utilizados con fines de seguridad nacional en la UE, sino también los sistemas de IA cuyos resultados se utilizan en la Unión para tales fines, independientemente de si los actores son organismos públicos o privados.
Es probable que el Parlamento, por otro lado, se ponga del lado de la gente, preparándose para luchar contra las exenciones, ya que estas socavan claramente las prohibiciones y salvaguardas incorporadas en la Ley de IA de la UE.
Prohibir la identificación biométrica más intrusiva en los espacios públicos tiene poco significado si las exenciones vagas reclamadas por los gobiernos nacionales pueden aplicarse en un mosaico de 27 normas legales diferentes en toda la UE. Queda por ver cómo los diplomáticos de Bruselas explicarán estos 27 marcos regulatorios para los sistemas de IA de seguridad nacional al sector privado, que ya se queja de reglas fragmentadas. La extensión también podría tener un impacto importante fuera de la UE, ya que los gobiernos de todo el mundo ven la regulación europea como un modelo.
En nuestro último análisis legal, ECNL desacreditó la narrativa de la “competencia nacional intocable” de los Estados miembros con respecto a cuestiones de seguridad nacional, favorecida por los diplomáticos de Bruselas.
En realidad, Sentencias del TJUE muestra que no existe un conflicto inherente entre las normas del mercado interior de la UE y los intereses de seguridad nacional de los Estados miembros. Dado que la Ley de IA de la UE será una regulación del mercado interior, no hay justificación para excluir completamente del ámbito de aplicación los sistemas desarrollados para este fin.
La comisión y el parlamento deben actuar para evitar que esta exención se convierta en ley.