Siete de las principales empresas tecnológicas del mundo que trabajan en inteligencia artificial se reunirán hoy con la Administración Biden, donde acordarán una serie de nuevos compromisos destinados a gestionar los riesgos potenciales que plantea la IA.
Los nuevos acuerdos voluntarios incluyen compromisos con pruebas externas de terceros antes de lanzar un producto de IA y el desarrollo de sistemas de marcas de agua para informar al público cuando se generó una pieza de material de audio o video usando sistemas de IA. La administración de Biden dijo que estos compromisos voluntarios, que esencialmente equivalen a autocontrol por parte de las empresas de tecnología, marcan solo el primero de varios pasos necesarios para gestionar adecuadamente el riesgo de IA.
Un funcionario de la Casa Blanca le dijo a Gizmodo que El presidente Biden se reunirá con líderes de Amazon, Anthropic, Google, Inflection, Meta, Microsoft y OpenAI para analizar los nuevos compromisos que se basan en tres principios fundamentales de seguridad, protección y confianza. Por el lado de la seguridad, las empresas acordarán ejecutar sus modelos a través de pruebas internas y externas antes de su lanzamiento. Las empresas también acordarán compartir los hallazgos sobre seguridad y los intentos de eludir las salvaguardas en la industria, el gobierno y la sociedad civil.
Por seguridad, las empresas se comprometen a invertir en seguridad cibernética adicional y salvaguardias contra amenazas internas y acuerdan ayudar a terceros a descubrir y reportar vulnerabilidades en sus sistemas. Tal vez Lo más interesante es que las empresas de tecnología dicen que todas desarrollarán mecanismos técnicos como marcas de agua para garantizar que los usuarios sepan cuándo se genera contenido con IA. Un funcionario de la Casa Blanca hablando por teléfono dijo que estos compromisos tenían la intención de hacer retroceder la amenaza de las falsificaciones profundas y generar confianza entre el público. Del mismo modo, los fabricantes de IA han acordado de antemano para priorizar la investigación que muestre los riesgos de sesgo, privacidad y discriminación que pueden presentar sus productos.
Si algo de eso le suena familiar es porque varias de estas empresas ya están trabajando para lograr los mismos objetivos que describe este acuerdo. OpenAI, por ejemplo, anteriormente dio a los investigadores versiones avanzadas de GTP-4 para “equipar rojo” a los modelos e intentar presionarlos en hacer afirmaciones dañinas para mejorarlas. Microsoft también ya prometido para poner marcas de agua en imágenes y videos generados por IA. No está claro si alguna de estas empresas podría enfrentar algún tipo de sanción por incumplir cualquiera de estos compromisos.
El funcionario de la Casa Blanca que habló con Gizmodo y otros reporteros dijo que los compromisos tenían la intención de unir a cada una de estas siete compañías bajo el mismo conjunto de acuerdos. Y aunque esto no afecta oficialmente a los cientos de otras empresas más pequeñas que trabajan en sistemas de inteligencia artificial, la Casa Blanca espera que la línea de base establecida aquí pueda alentar a otros en la industria a seguir un camino similar.
El funcionario también reveló que la Administración Biden está en proceso de desarrollar una orden ejecutiva para garantizar una IA segura y protegida, pero no proporcionó detalles sobre qué implicará exactamente esa orden. La administración de Biden también está trabajando con el Congreso para apoyar la legislación bipartidista de IA que esperan pueda lograr un equilibrio entre salvaguardar la IA y dejar espacio para la innovación.
“Este es el siguiente paso, pero ciertamente no el último paso”, agregó el funcionario.