La Ley de IA fue concebida como un proyecto de ley histórico que mitigaría los daños en áreas donde el uso de la IA representa el mayor riesgo para los derechos fundamentales, como la atención médica, la educación, la vigilancia fronteriza y los servicios públicos, además de prohibir usos que representen un “inaceptable riesgo”. riesgo.”
Los sistemas de IA de “alto riesgo” tendrán que cumplir reglas estrictas que requieren sistemas de mitigación de riesgos, conjuntos de datos de alta calidad, mejor documentación y supervisión humana, por ejemplo. La gran mayoría de los usos de la IA, como los sistemas de recomendación y los filtros de spam, tendrán pase gratuito.
La Ley de IA es un acuerdo importante porque introducirá importantes normas y mecanismos de aplicación en un sector enormemente influyente que actualmente es un Salvaje Oeste.
Estas son las conclusiones clave de .:
1. La Ley de IA marca el comienzo de normas importantes y vinculantes sobre transparencia y ética
A las empresas de tecnología les encanta hablar de cuán comprometidas están con la ética de la IA. Pero cuando se trata de medidas concretas, la conversación se agota. Y de todos modos, las acciones hablan más que las palabras. Los equipos de IA responsables suelen ser los primeros en ver recortes durante los despidos y, en verdad, las empresas de tecnología pueden decidir cambiar sus políticas éticas de IA en cualquier momento. OpenAI, por ejemplo, comenzó como un laboratorio de investigación de IA “abierto” antes de cerrar el acceso público a su investigación para proteger su ventaja competitiva, como cualquier otra startup de IA.
La Ley de IA cambiará eso. La regulación impone reglas legalmente vinculantes que exigen que las empresas de tecnología notifiquen a las personas cuando interactúan con un chatbot o con sistemas de categorización biométrica o reconocimiento de emociones. También les exigirá etiquetar los deepfakes y el contenido generado por IA, y diseñar sistemas de tal manera que los medios generados por IA puedan ser detectados. Este es un paso más allá de los compromisos voluntarios que las principales empresas de IA asumieron ante la Casa Blanca para simplemente desarrollar Herramientas de procedencia de IA, como marcas de agua.
El proyecto de ley también exigirá que todas las organizaciones que ofrecen servicios esenciales, como seguros y banca, realicen una evaluación de impacto sobre cómo el uso de sistemas de IA afectará los derechos fundamentales de las personas.
2. Las empresas de IA todavía tienen mucho margen de maniobra
Cuando se introdujo por primera vez la Ley de IA, en 2021, la gente todavía hablaba del metaverso. (¡Puedes imaginar!)
Un avance rápido hasta ahora, y en un mundo posterior a ChatGPT, los legisladores sintieron que tenían que tener en cuenta en la regulación los llamados modelos básicos (poderosos modelos de IA que pueden usarse para muchos propósitos diferentes). Esto desató un intenso debate sobre qué tipo de modelos deberían regularse y si la regulación acabaría con la innovación.