Advertencia del peligro de la IA, el pionero Geoffrey Hinton abandona Google para hablar libremente

Geoffrey Hinton en 2019.
Agrandar / Geoffrey Hinton, principal asesor científico del Instituto Vector, habla durante el Foro Global de Toronto del Foro Económico Internacional de las Américas (IEFA) en Toronto, Ontario, Canadá, el jueves 5 de septiembre de 2019.

Getty Images/Benj Edwards

De acuerdo con la New York Timespionero de la IA Dr. Geoffrey Hinton ha renunciado a Google para poder “hablar libremente” sobre los riesgos potenciales que plantea la IA. Hinton, quien ayudó a crear parte de la tecnología fundamental detrás de los sistemas de IA generativos actuales, teme que el impulso de la industria tecnológica para desarrollar productos de IA pueda tener consecuencias peligrosas, desde información errónea hasta la pérdida de empleos o incluso una amenaza para la humanidad.

“Mira cómo era hace cinco años y cómo es ahora”, dijo el Times citando a Hinton. “Toma la diferencia y propágala hacia adelante. Eso da miedo”.

El currículum de Hinton en el campo de la int eligencia artificial se remonta a 1972 y sus logros han influido en las prácticas actuales de la IA generativa. En 1987, Hinton, David Rumelhart y Ronald J. Williams popularizaron retropropagación

, una técnica clave para entrenar redes neuronales que se utiliza en los modelos generativos de IA actuales. En 2012, Hinton, Alex Krizhevsky e Ilya Sutskever creado AlexNetcual es comúnmente aclamado como un gran avance en la visión artificial y el aprendizaje profundo, y podría decirse que inició nuestra era actual de IA generativa. En 2018, Hinton ganó el Premio Turingque algunos llaman el “Premio Nobel de Computación”, junto con Yoshua Bengio y Yann LeCun.

Hinton se unió a Google en 2013 después de que Google adquiriera la empresa de Hinton, DNNresearch. Su partida una década más tarde marca un momento notable para la industria de la tecnología, ya que al mismo tiempo promociona y advierte sobre el impacto potencial de los sistemas de automatización cada vez más sofisticados. Por ejemplo, el lanzamiento de GPT-4 de OpenAI en marzo llevó a un grupo de investigadores tecnológicos a firmar una carta abierta pidiendo una moratoria de seis meses en el desarrollo de nuevos sistemas de IA “más potentes” que GPT-4. Sin embargo, algunos críticos notables piensa que tales temores son exagerados o están fuera de lugar.

Hinton no firmó esa carta abierta, pero cree que la intensa competencia entre gigantes tecnológicos como Google y Microsoft podría conducir a una carrera global de IA que solo puede detenerse a través de la regulación internacional. Hace hincapié en la colaboración entre los principales científicos para evitar que la IA se vuelva incontrolable.

“No creo [researchers] deberían escalar esto más hasta que hayan entendido si pueden controlarlo”, dijo al Times.

Hinton también está preocupado por la proliferación de información falsa en forma de fotos, videos y texto, lo que dificulta que las personas disciernan qué es verdad. También teme que la IA pueda trastornar el mercado laboral, inicialmente complementando a los trabajadores humanos pero eventualmente reemplazándolos en roles como asistentes legales, asistentes personales y traductores que manejan tareas de rutina.

La preocupación a largo plazo de Hinton es que los futuros sistemas de inteligencia artificial puedan representar una amenaza para la humanidad a medida que aprenden comportamientos inesperados a partir de grandes cantidades de datos. “La idea de que estas cosas podrían volverse más inteligentes que las personas, algunas personas lo creían”, le dijo a The Times. “Pero la mayoría de la gente pensó que estaba muy lejos. Y yo pensé que estaba muy lejos. Pensé que estaba lejos de 30 a 50 años o incluso más. Obviamente, ya no pienso eso”.

Las advertencias de Hinton se sienten notables porque en un momento fue uno de los mayores defensores del campo. en un Perfil de la estrella de Toronto 2015, Hinton expresó su entusiasmo por el futuro de la IA y dijo: “Creo que nunca me jubilaré”. Pero hoy, el Times dice que la preocupación de Hinton por el futuro de la IA lo ha llevado a arrepentirse parcialmente del trabajo de su vida. “Me consuelo con la excusa normal: si no lo hubiera hecho yo, lo habría hecho otro”, dijo.

Algunos críticos han mirado con escepticismo la renuncia y el arrepentimiento del Dr. Hinton. En respuesta al artículo del New York Times, la Dra. Sasha Luccioni de Hugging Face tuiteó“La gente se refiere a esto para decir: mira, la IA se está volviendo tan peligrosa que incluso sus pioneros se están rindiendo. Lo veo como: las personas que han causado el problema ahora están abandonando el barco”.

El lunes, Hinton aclaró sus motivaciones para dejar Google. Él escribió en un tuit: “Hoy en el NYT, Cade Metz insinúa que dejé Google para poder criticar a Google. En realidad, me fui para poder hablar sobre los peligros de la IA sin considerar cómo afecta esto a Google. Google ha actuado de manera muy responsable .”

Leave a Reply

Your email address will not be published. Required fields are marked *