Imágenes Getty | Gana McNamee
OpenAI, mejor conocido por su asistente ChatGPT AI, ha sido objeto de escrutinio por parte de la Comisión Federal de Comercio (FTC) de EE. UU. por acusaciones de que violó las leyes de protección al consumidor, lo que podría poner en riesgo los datos personales y la reputación, según el poste de washington y Reuters.
Como parte de la investigación, la FTC envió un documento de 20 páginas solicitud de registro
La investigación también busca comprender cómo OpenAI ha abordado el potencial de sus productos para generar declaraciones falsas, engañosas o despectivas sobre personas reales. En la industria de la IA, estas generaciones falsas a veces se denominan “alucinaciones” o “confabulaciones”.
En particular, The Washington Post especula que el enfoque de la FTC en las declaraciones engañosas o falsas es una respuesta a los incidentes recientes relacionados con ChatGPT de OpenAI, como un caso en el que supuestamente fabricó afirmaciones difamatorias sobre Mark Walters, un presentador de un programa de entrevistas de radio de Georgia. El asistente de AI declaró falsamente que Walters fue acusado de malversación de fondos y fraude relacionado con la Fundación de la Segunda Enmienda, lo que llevó a Walters a demandar a OpenAI por difamación. Otro incidente involucró al modelo de IA afirmando falsamente que un abogado había hecho comentarios sexualmente sugerentes en un viaje de estudiantes a Alaska, un evento que nunca ocurrió.
La investigación de la FTC marca un importante desafío regulatorio para OpenAI, que ha provocado la misma cantidad de emoción, miedo y exageración en la industria de la tecnología después del lanzamiento de ChatGPT en noviembre. Mientras cautivaba al mundo de la tecnología con productos impulsados por IA que muchas personas pensaban que faltaban años o décadas, las actividades de la empresa han planteado preguntas sobre los riesgos potenciales asociados con los modelos de IA que producen.
A medida que se intensifica el impulso de la industria por modelos de IA más capaces, las agencias gubernamentales de todo el mundo han estado observando más de cerca lo que sucede detrás de escena. Frente a la tecnología que cambia rápidamente, los reguladores como la FTC se esfuerzan por aplicar las reglas existentes para cubrir los modelos de IA, desde los derechos de autor y la privacidad de los datos hasta cuestiones más específicas relacionadas con los datos utilizados para entrenar estos modelos y el contenido que generan.
En junio, Reuters reportado que el líder de la mayoría del Senado de EE. UU., Chuck Schumer (D-NY), pidió una “legislación integral” para supervisar el progreso de la tecnología de inteligencia artificial, asegurando que se implementen las salvaguardas necesarias. Schumer planea realizar una serie de foros sobre el tema a finales de este año, señala la agencia de noticias.
Este no es el primer obstáculo regulatorio para OpenAI. La compañía enfrentó una reacción violenta en Italia en marzo, cuando los reguladores bloquearon ChatGPT por acusaciones de que OpenAI había violado las regulaciones de privacidad GDPR de la Unión Europea. El servicio ChatGPT se restableció más tarde después de que OpenAI acordó incorporar funciones de verificación de edad y brindar a los usuarios europeos la opción de bloquear el uso de sus datos para entrenar el modelo de IA.
OpenAI tiene dos semanas después de recibir la solicitud para programar una llamada con la FTC para discutir posibles modificaciones a la solicitud o problemas de cumplimiento.