Es probable que los legisladores europeos que regulan los riesgos de la inteligencia artificial enfrenten la resistencia de los estados de la UE antes de las negociaciones a finales de este año.
Pero incluso dentro del Parlamento de la UE, algunos de los eurodiputados clave que impulsan el proyecto de ley sobre inteligencia artificial conocido como Ley AI, están preocupados por una próxima votación entre sus propios pares.
“Estoy conteniendo la respiración hasta el último segundo”, dijo el eurodiputado liberal rumano Dragoș Tudorache, a principios de esta semana.
Tudorache, junto con el legislador socialista italiano Brando Benifei, son los principales negociadores de la ley en el parlamento.
Propuesto por primera vez por la Comisión Europea en 2021, el proyecto de ley llega en un momento en que la IA de propósito general como Chat GPT se ha disparado en el mercado.
El Consejo, en representación de los estados miembros, alcanzó su posición negociadora en diciembre pasado.
Ahora, el comité del parlamento está listo para votar un borrador presentado por Tudorache y Benifei antes de que pase al pleno en junio.
“Este es el tipo de negociación en la que nadie puede salir de la habitación feliz o infeliz”, dijo Tudorache. “La clave es mantener el control y la supervisión humana y la confiabilidad”, dijo.
Tudorache lo describió como el “toque mágico”, en el que el futuro impulsado por la IA es uno en el que los humanos todavía tienen el control.
“Si no tenemos ese control correcto, es posible que tenga esta visión distópica que muchos expresan”, dijo.
El nuevo libro de reglas incluye la prohibición total de ciertas prácticas, mientras que enumera otras como de alto riesgo.
A diferencia del parlamento, el consejo no llegó a imponer una prohibición total de vigilancia policial predictiva, reconocimiento de emociones y reconocimiento facial en espacios públicos como parte de una combinación centrada en la seguridad.
No todos están interesados en algunas de estas prohibiciones, incluso dentro de Renew Europe del parlamento, la facción liberal en la que se asienta Tudorache.
Con algunas excepciones, el PPE de centroderecha tampoco está contento con las prohibiciones, mientras que los Verdes y los socialistas están a favor. Es probable que esas preguntas y posiciones difíciles se resuelvan en una votación a nivel de comité el 11 de mayo.
Hasta ahora, la sociedad civil ha acogido ampliamente el borrador del parlamento dadas sus salvaguardas de derechos reforzadas.
“El parlamento realmente ha escuchado lo que la sociedad civil ha pedido y ha realizado algunos cambios bastante importantes”, dijo Daniel Leufer, analista principal de políticas de Access Now, una ONG que defiende los derechos digitales.
Esto incluye obligaciones de transparencia y evaluaciones de impacto en derechos fundamentales para los usuarios, dijo.
Esa transparencia es necesaria para evitar que estallen escándalos. Recientemente, una investigación realizada por LightHouse Reports, con sede en Ámsterdam, reveló que España había estado utilizando inteligencia artificial secreta para tomar medidas enérgicas contra el fraude y reducir el gasto público en sus beneficios de licencia por enfermedad.
Pero al mismo tiempo, a Leufer le preocupan las lagunas que podrían descarrilar la regulación a la hora de clasificar los riesgos altos.
“Es muy importante que el proceso de clasificación de alto riesgo no contenga lagunas que permitan a los proveedores sin escrúpulos eximirse sin consecuencias y sin supervisión pública”, dijo.
A pesar de esa posibilidad, también se elogia la lista extendida de prohibiciones del parlamento.
Sarah Chander, experta en IA de European Digital Rights (EDRi), con sede en Bruselas, dijo que enviaría un mensaje claro a los gobiernos y desarrolladores de IA de que “algunos usos de la IA son demasiado dañinos para permitirlos”.
Pero esto todavía se queda corto cuando se trata de proteger a los migrantes del daño de la IA, incluso cuando la IA se usa para facilitar las devoluciones, dice.
La prohibición propuesta de vigilancia policial predictiva necesita mejoras para cubrir la vigilancia policial predictiva basada en la ubicación, esencialmente una forma de perfilado racial automatizado, dijo.
Amnistía Internacional hizo comentarios similares en una carta enviada a los eurodiputados a principios de este mes.
“El proyecto de Ley de IA no garantiza a las personas en movimiento el mismo nivel de protección contra los daños inducidos por IA que se otorga a los ciudadanos europeos”, afirma la carta.