Geoffrey Hinton, pionero de la IA y figura decorativa del doomerismo, gana el Premio Nobel de Física
Hinton comparte el premio con su colega científico informático John Hopfield, quien inventó un tipo de red neuronal de coincidencia de patrones que podía almacenar y reconstruir datos. Hinton se basó en esta tecnología, conocida como red Hopfield, para desarrollar la retropropagación, un algoritmo que permite que las redes neuronales aprendan.
Hopfield y Hinton tomaron prestados métodos de la física, especialmente técnicas estadísticas, para desarrollar sus enfoques. En palabras del comité del Premio Nobel, los dos son reconocidos “por descubrimientos e invenciones fundamentales que permiten el aprendizaje automático con redes neuronales artificiales”.
Pero desde mayo de 2023, cuando Revisión de tecnología del . ayudó a dar la noticia de que Hinton ahora tenía miedo de la tecnología que él había ayudado a crear, el científico de 76 años se ha vuelto mucho más conocido como una figura decorativa del doomerismo: la idea de que existe un riesgo muy real de que la IA en el futuro cercano podría precipitar acontecimientos catastróficos, que podrían llegar hasta la extinción humana.
El doomerismo no era nuevo, pero Hinton, que ganó el Premio Turing, el máximo galardón en ciencias de la computación, en 2018, aportó nueva credibilidad a una posición que muchos de sus pares alguna vez consideraron excéntrica.
¿Qué llevó a Hinton a hablar? Cuando me reuní con él en su casa de Londres el año pasado, Hinton me dijo que estaba asombrado por lo que podían hacer los nuevos modelos lingüísticos de gran tamaño. El último modelo insignia de OpenAI, GPT-4, se lanzó unas semanas antes. Lo que Hinton vio lo convenció de que dicha tecnología, basada en el aprendizaje profundo, rápidamente se volvería más inteligente que los humanos. Y le preocupaban las motivaciones que tendría cuando lo hiciera.
“De repente cambié de opinión sobre si estas cosas van a ser más inteligentes que nosotros”, me dijo en ese momento. “Creo que ahora están muy cerca de lograrlo y serán mucho más inteligentes que nosotros en el futuro. ¿Cómo sobrevivimos a eso?
Las opiniones de Hinton provocaron un revuelo en los medios de comunicación que duró meses y convirtieron el tipo de riesgos existenciales que él y otros estaban imaginando (desde el colapso económico hasta los robots genocidas) en preocupaciones generales. Cientos de científicos y líderes tecnológicos de primer nivel firmaron cartas abiertas advirtiendo sobre las desastrosas desventajas de la inteligencia artificial. Se propuso una moratoria sobre el desarrollo de la IA. Los políticos aseguraron a los votantes que harían todo lo posible para evitar lo peor.
A pesar de los rumores, muchos consideran que las opiniones de Hinton son fantásticas. Yann LeCun, científico jefe de IA en Meta y compañero de Hinton en el Premio Turing 2018, ha calificado el doomerismo de “absurdamente ridículo”.
El premio de hoy recompensa el trabajo fundamental en una tecnología que se ha convertido en parte de la vida cotidiana. También seguramente arrojará una luz aún más brillante sobre las opiniones más alarmistas de Hinton.