El jueves, el presidente Joe Biden celebró una reunión en la Casa Blanca con los directores ejecutivos de las principales empresas de IA, incluidas Google, Microsoft, OpenAI y Anthropic, enfatizando la importancia de garantizar la seguridad de los productos de IA antes de su implementación. Durante la reunión, Biden instó a los ejecutivos a abordar los riesgos que plantea la IA. Pero algunos expertos en IA criticaron la exclusión de los investigadores de ética que han advertido sobre los peligros de la IA durante años.
En los últimos meses, los modelos de IA generativa como ChatGPT ganaron rápidamente popularidad y generaron una gran expectación tecnológica, lo que llevó a las empresas a desarrollar productos similares a un ritmo acelerado.
Sin embargo, han aumentado las preocupaciones sobre posibles problemas de privacidad, sesgo laboral y la posibilidad de usarlos para crear campañas de desinformación. Según la Casa Blanca, la administración pidió mayor transparencia, evaluaciones de seguridad y protección contra ataques maliciosos durante una “discusión franca y constructiva” con los ejecutivos.
Los asistentes más destacados de la reunión incluyeron a Sundar Pichai de Google, Satya Nadella de Microsoft, Sam Altman de OpenAI y Dario Amodei de Anthropic.
La vicepresidenta Kamala Harris presidió la reunión y en un video de Biden “pasando” publicado en Twitter
El otoño pasado, la administración de Biden publicó un conjunto de pautas llamado “Declaración de derechos de AI” que tiene como objetivo proteger a los estadounidenses de los efectos perjudiciales de los sistemas automatizados, incluidos los prejuicios, la discriminación y los problemas de privacidad.
Los investigadores de ética de la IA responden
Si bien la invitación de Biden mostró interés ejecutivo en un tema de política candente, los críticos de los antecedentes éticos de las empresas invitadas no quedaron impresionados por la reunión, con muchos cuestionando la elección de invitar a la reunión a personas que, argumentan, representan a empresas que han creado los problemas con la IA que la Casa Blanca busca abordar.
En Twitter, el investigador de IA Dr. Timnit Gebru escribió“Parece que pasamos la mitad de nuestro tiempo hablando con varios legisladores y agencias y TODAVÍA tenemos esta mierda. Una sala llena de tipos que nos dieron los problemas y nos despidieron por hablar sobre los riesgos, siendo llamados por el maldito presidente para ‘proteger los derechos de las personas'”.
En 2020, Google despidió a Gebru luego de una disputa sobre un trabajo de investigación del que fue coautora y que destacaba los posibles riesgos y sesgos en los modelos de lenguaje a gran escala. El incidente provocó un debate dentro de la comunidad de investigación de IA sobre el compromiso de Google con la ética de la IA.
Del mismo modo, la investigadora de ética de IA de la Universidad de Oxford, Elizabeth Renieris tuiteó“Desafortunadamente, y con el debido respeto POTUS, estas no son las personas que pueden decirnos qué es “más necesario para proteger a la sociedad” cuando se trata de #IA”.
La crítica refleja la división común entre lo que a menudo se denomina “seguridad de la IA” (un movimiento informal que se preocupa principalmente por el riesgo existencial hipotético de la IA, asociado abiertamente con los empleados de OpenAI) y la “ética de la IA” (un grupo de investigadores preocupados en gran medida por las malas aplicaciones y los impactos de los sistemas de IA actuales, incluido el sesgo y la desinformación).
En este sentido, el autor Dr. Brandeis Marshall sugirió organizar una “contra-reunión” a la reunión de la Casa Blanca que incluiría cara de abrazoel Instituto de Investigación de IA Distribuidael Centro de Investigación Crítica de Internet de la UCLAy el Liga de la justicia algorítmica.
También el jueves, la Casa Blanca Anunciado una inversión de $140 millones para lanzar siete institutos de investigación de IA a través de la Fundación Nacional de Ciencias. Además, Anthropic, Google, Hugging Face, Nvidia, OpenAI y Stability AI participarán en evaluaciones públicas de sus sistemas de IA en DEF CON 31.
Después de la reunión en la Casa Blanca, Harris publicó un declaración diciendo: “El sector privado tiene la responsabilidad ética, moral y legal de garantizar la seguridad y la protección de sus productos. Y cada empresa debe cumplir con las leyes existentes para proteger al pueblo estadounidense. Espero con interés el seguimiento y seguimiento en las próximas semanas”.