Los grandes cambios en OpenAI generan escepticismo sobre los plazos inminentes de la IA general

Durante la semana pasada, OpenAI experimentó una importante reestructuración de su liderazgo cuando tres figuras clave anunciaron cambios importantes. Greg Brockman, presidente y cofundador de la empresa, se tomará un año sabático prolongado hasta fin de año, mientras que otro cofundador, John Schulman, se irá de forma permanente. salido para su rival Anthropic. Peter Deng, vicepresidente de productos de consumo, ha También se fue el creador de ChatGPT.

En una publicación sobre X, Brockman escribió“Me tomaré un año sabático hasta fin de año. Es la primera vez que puedo relajarme desde que cofundé OpenAI hace 9 años. La misión está lejos de completarse; todavía tenemos que construir una IA segura”.

Las medidas han llevado a algunos a preguntarse ¿Qué tan cerca está OpenAI de un avance largamente rumoreado de algún tipo de inteligencia artificial racional si los empleados de alto perfil están abandonando el barco (o tomándose largos descansos, en el caso de Brockman) con tanta facilidad? Como el desarrollador de IA Benjamin De Kraker Ponlo en X, “Si OpenAI está al borde de la IAG, ¿por qué la gente prominente sigue yéndose?”

La IA general se refiere a un sistema de inteligencia artificial hipotético que podría igualar la inteligencia de nivel humano en una amplia gama de tareas sin capacitación especializada. meta final de OpenAI y el director ejecutivo de la empresa, Sam Altman ha dicho Podría surgir en un “futuro razonablemente cercano”. La IAG es también un concepto que ha suscitado inquietudes sobre los posibles riesgos existenciales para la humanidad y el desplazamiento de los trabajadores del conocimiento. Sin embargo, el término sigue siendo algo vago y existe un debate considerable en la comunidad de IA sobre qué constituye realmente la IAG o qué tan cerca estamos de lograrla.

El surgimiento de la “próxima gran novedad” en IA ha sido visto por los críticos como Ed Zitron como un paso necesario para justificar las enormes inversiones en modelos de IA que aún no son rentables. La industria espera con ansias que OpenAI, o un competidor, tenga algún avance secreto esperando entre bastidores que justifique los enormes costos asociados con la capacitación y la implementación de los LLM.

Pero otros críticos de la IA, como Gary Marcus

En el esquema de las cosas, la decisión de Brockman suena como unas vacaciones prolongadas y muy esperadas (o tal vez un período para tratar asuntos personales más allá del trabajo). Independientemente del motivo, la duración del año sabático plantea interrogantes sobre cómo el presidente de una importante empresa tecnológica puede desaparecer repentinamente durante cuatro meses sin afectar las operaciones diarias, especialmente durante un momento crítico de su historia.

A menos, por supuesto, que las cosas estén bastante tranquilas en OpenAI, y tal vez GPT-5 no se lanzará hasta al menos el año que viene, cuando Brockman regrese. Pero esto es una especulación de nuestra parte, y OpenAI (ya sea voluntariamente o no) a veces nos sorprende cuando menos lo esperamos. (Justo hoy, Altman Le dio una pista a X

Un patrón de salidas y el ascenso de lo antrópico

Lo que más puede molestar a OpenAI sobre las recientes salidas es que algunos empleados de alto perfil se han ido para unirse a Antrópicouna empresa de inteligencia artificial con sede en San Francisco fundada en 2021 por los ex empleados de OpenAI Daniela y Dario Amodei.

Anthropic ofrece un servicio de suscripción llamado Claude.ai que es similar a ChatGPT. Su LLM más reciente, Claude 3.5 Sonnet, junto con su interfaz basada en la web, ha ganado rápidamente el favor sobre ChatGPT entre algunos usuarios de LLM que están vocal en las redes socialesaunque es probable que aún no iguale a ChatGPT en términos de reconocimiento de marca general.

En particular, John Schulman, cofundador de OpenAI y figura clave en el proceso de post-capacitación de la empresa para LLM, reveló En una declaración en X, anunció que se marchará para unirse a la firma rival de inteligencia artificial Anthropic para realizar un trabajo más práctico: “Esta elección surge de mi deseo de profundizar mi enfoque en la alineación de la IA y comenzar un nuevo capítulo de mi carrera en el que pueda volver al trabajo técnico práctico”. La alineación es un campo que espera guiar los modelos de IA para producir resultados útiles.

En mayo, el investigador de alineación de OpenAI, Jan Leike izquierda OpenAI unirse también a Anthropic y criticar el manejo de la seguridad de la alineación por parte de OpenAI.

Sumándose a la reciente reorganización de los empleados, The Information informes Peter Deng, un líder de producto que se unió a OpenAI el año pasado después de trabajar en Meta Platforms, Uber y Airtable, también ha dejado la empresa, aunque todavía no sabemos hacia dónde se dirige. En mayo, el cofundador de OpenAI, Ilya Sutskever, se fue para fundar una startup rival y el destacado ingeniero de software Andrej Karpathy partió en febrerolanzando recientemente una iniciativa educativa.

Como señaló De Kraker, si OpenAI estuviera a punto de desarrollar una tecnología de IA que cambiaría el mundo, ¿no querrían estos veteranos de IA de alto perfil quedarse y ser parte de este momento histórico? “Es una pregunta genuina”, dijo. escribió“Si estuvieras bastante seguro de que la empresa de la que formas parte clave (y en la que tienes acciones) está a punto de alcanzar la AGI en uno o dos años… ¿por qué abandonarías el barco?”

A pesar de las salidas, Schulman expresó optimismo sobre el futuro de OpenAI en su nota de despedida “Estoy seguro de que OpenAI y los equipos de los que formé parte seguirán prosperando sin mí”, escribió. “Estoy increíblemente agradecido por la oportunidad de participar en una parte tan importante de la historia y estoy orgulloso de lo que hemos logrado juntos. Seguiré apoyándolos a todos, incluso mientras trabajo en otro lugar”.

Este artículo se actualizó el 7 de agosto de 2024 a las 4:23 p. m. para mencionar el tuit de Sam Altman sobre las fresas.