Tesla y CEO de SpaceX Elon Musk Una vez más suena una nota de advertencia sobre el desarrollo de la inteligencia artificial: el ejecutivo y el fundador tuitearon el lunes por la noche que "todas las organizaciones (anizaciones) que desarrollen IA avanzada deberían estar reguladas, incluida Tesla".
Musk estaba respondiendo a un nuevo Perfil de MIT Technology Review de OpenAI, una organización fundada en 2015 por Musk, junto con Sam Altman, Ilya Sutskever, Greg Brockman, Wojciech Zaremba y John Schulman. Primero, OpenAI se formó como una organización sin fines de lucro respaldada por $ 1 mil millones en fondos de sus inversores iniciales agrupados, con el objetivo de llevar a cabo una investigación abierta sobre IA avanzada con el objetivo de garantizar que se persiga en beneficio de la sociedad, en lugar de dejar su desarrollo en las manos de unos pocos y poco interesados, es decir. empresas tecnológicas con fines de lucro.
En el momento de su fundación en 2015, Musk postulado
En los años intermedios, mucho ha cambiado, incluido OpenAI. La organización formó oficialmente un brazo con fines de lucro propiedad de una corporación matriz sin fines de lucro en 2019, y aceptó $ 1 mil millones en inversión de Microsoft junto con la formación, una asociación de gran alcance, aparentemente en contravención de sus principios fundacionales.
Los comentarios de Musk esta semana en respuesta al perfil del MIT indican que está bastante alejado de la organización a la que ayudó a cofundar tanto ideológicamente como en un sentido más práctico y funcional. los SpaceX fundador también señaló que "debe estar de acuerdo" en que las preocupaciones sobre la misión de OpenAI expresadas el año pasado en el momento de su anuncio de Microsoft "son razonables", y dijo eso "OpenAI debería ser más abierto". Musk también señaló que "no tiene control y tiene una visión muy limitada de OpenAI" y que su "confianza" en Dario Amodei, director de investigación de OpenAI, "no es alta" cuando se trata de garantizar el desarrollo seguro de la IA.
Si bien puede ser sorprendente ver a Musk incluir a Tesla en un llamado general para la regulación del desarrollo de IA avanzada, está en consonancia con su postura general sobre el desarrollo de la inteligencia artificial. Musk ha advertido repetidamente sobre los riesgos asociados con la creación de IA que es más independiente y avanzada, incluso yendo tan lejos como para llámalo un "riesgo fundamental para la existencia de la civilización humana".
Él también aclarado el lunes que él cree que el desarrollo avanzado de IA debería estar regulado tanto por los gobiernos nacionales individuales como por los organismos de gobierno internacionales, como la ONU, en respuesta a una pregunta aclaratoria de un seguidor. Claramente, el tiempo no está haciendo nada para mitigar las creencias de Musk sobre la amenaza potencial de la IA: tal vez esto lo alentará a aumentar sus esfuerzos con Neuralink para dar a los humanos una manera de igualar el campo de juego.