Esta se acaba de convertir en una gran semana para la regulación de la IA

Es una semana excelente para el rechazo del gobierno al mal uso de la inteligencia artificial.

Hoy, la UE ha publicado su tan esperado conjunto de Regulaciones de IA, un primer borrador del cual filtrado la semana pasada. Las regulaciones son amplias, con restricciones sobre la vigilancia masiva y el uso de IA para manipular a las personas.

Pero una declaración de intenciones de la Comisión Federal de Comercio de los EE. UU., breve entrada de blog de la abogada Elisa Jillson el 19 de abril, puede tener más dientes en un futuro inmediato. Según la publicación, la FTC planea perseguir a las empresas que utilizan y venden algoritmos sesgados.

Varias empresas estarán asustadas en este momento, dice Ryan Calo, profesor de la Universidad de Washington, que trabaja en tecnología y derecho. “En realidad, no es solo esta publicación de blog”, dice. “Esta publicación de blog es un ejemplo muy claro de lo que parece ser un cambio radical”.

La UE es conocida por su línea dura contra las grandes tecnologías, pero la FTC ha adoptado un enfoque más suave, al menos en los últimos años. La agencia está destinada a vigilar las prácticas comerciales desleales y deshonestas. Su mandato es limitado: no tiene jurisdicción sobre agencias gubernamentales, bancos o organizaciones sin fines de lucro. Pero puede intervenir cuando las empresas tergiversan las capacidades de un producto que están vendiendo, lo que significa que las empresas que afirman que sus sistemas de reconocimiento facial, algoritmos de vigilancia predictiva o herramientas de atención médica no están sesgados ahora pueden estar en la línea de fuego. “Donde tienen poder, tienen un poder enorme”, dice Calo.

Tomando acción

La FTC no siempre ha estado dispuesta a ejercer ese poder. Tras las críticas de las décadas de 1980 y 1990 de que estaba siendo demasiado agresivo, se echó atrás y provocó menos peleas, especialmente contra las empresas de tecnología. Esto parece estar cambiando.

En la publicación del blog, la FTC advierte a los proveedores que las afirmaciones sobre la inteligencia artificial deben ser “veraces, no engañosas y respaldadas por pruebas”.

“Por ejemplo, digamos que un desarrollador de inteligencia artificial les dice a los clientes que su producto proporcionará ‘decisiones de contratación 100% imparciales’, pero el algoritmo se construyó con datos que carecían de diversidad racial o de género. El resultado puede ser engaño, discriminación y una acción policial de la FTC “.

La acción de la FTC tiene apoyo bipartidista en el Senado, donde A los comisionados se les preguntó ayer qué más podían hacer y qué necesitaban para hacerlo. “Hay viento detrás de las velas”, dice Calo.

Mientras tanto, aunque trazan una línea clara en la arena, las regulaciones de IA de la UE son solo pautas. Al igual que con las reglas GDPR introducidas en 2018, dependerá de los estados miembros individuales de la UE decidir cómo implementarlas. Parte del lenguaje también es vago y está abierto a interpretación. Adopte una disposición contra las “técnicas subliminales más allá de la conciencia de una persona para distorsionar materialmente el comportamiento de una persona” de una manera que pueda causar daño psicológico. ¿Eso se aplica a los feeds de noticias de las redes sociales y la publicidad dirigida? “Podemos esperar que muchos cabilderos intenten excluir explícitamente la publicidad o los sistemas de recomendación”, dice Michael Veale, miembro de la facultad de University College London que estudia derecho y tecnología.

Se necesitarán años de desafíos legales en los tribunales para aclarar los detalles y las definiciones. “Eso solo será después de un proceso extremadamente largo de investigación, denuncia, multa, apelación, contra-apelación y remisión al Tribunal de Justicia de las Comunidades Europeas”, dice Veale. “En ese momento, el ciclo comenzará de nuevo”. Pero la FTC, a pesar de su ámbito limitado, tiene autonomía para actuar ahora.

Una gran limitación común tanto a la FTC como a la Comisión Europea es la incapacidad de frenar el uso de tecnología de IA dañina por parte de los gobiernos. Las regulaciones de la UE incluyen exclusiones para el uso estatal de la vigilancia, por ejemplo. Y la FTC solo está autorizada a perseguir empresas. Podría intervenir impidiendo que los proveedores privados vendan software sesgado a los organismos encargados de hacer cumplir la ley. Pero implementar esto será difícil, dado el secretismo en torno a tales ventas y la falta de reglas sobre lo que las agencias gubernamentales deben declarar cuando adquieren tecnología.

Sin embargo, los anuncios de esta semana reflejan un enorme cambio mundial hacia una regulación seria de la IA, una tecnología que se ha desarrollado e implementado con poca supervisión hasta ahora. Los perros guardianes de la ética han estado pidiendo restricciones sobre las prácticas de IA injustas y dañinas durante años.

La UE considera que sus regulaciones colocan a la IA bajo las protecciones existentes para las libertades humanas. “La inteligencia artificial debe estar al servicio de las personas y, por lo tanto, la inteligencia artificial debe respetar siempre los derechos de las personas”. dijo Ursula von der Leyen, presidente de la Comisión Europea, en un discurso previo al lanzamiento.

La regulación también ayudará a la IA con su problema de imagen. Como también dijo von der Leyen: “Queremos alentar a nuestros ciudadanos a que se sientan seguros de usarlo”.

Leave a Reply

Your email address will not be published. Required fields are marked *