En una carrera Durante varias décadas, el investigador y profesor de inteligencia artificial Stuart Russell ha aportado un amplio conocimiento sobre el tema, incluidos los libros de texto fundamentales. Se unió a nosotros en el escenario en TC Sessions: Robotics + AI para discutir la amenaza que percibe de AI, y su libro, que propone una solución novedosa.
La tesis de Russell, que desarrolla "es que el campo de la IA se ha desarrollado con la premisa falsa de que podemos definir con éxito los objetivos para los que funcionan estos sistemas, y el resultado es que cuanto más poderosos son, peor son capaces de. Nadie realmente piensa que una IA que fabrica clips se consumirá la Tierra para maximizar la producción, pero un algoritmo de prevención del delito podría tomar fácilmente datos y objetivos mal construidos y convertirlos en recomendaciones que causen un daño real.
La solución, sugiere Russell, es crear sistemas que no estén tan seguros de sí mismos, esencialmente, sabiendo lo que no pueden o no pueden saber y mirando a los humanos para descubrirlo.
La entrevista ha sido ligeramente editada. Mis observaciones, aunque en gran medida irrelevantes, se conservan para el contexto.
TechCrunch: Bueno, gracias por acompañarnos hoy aquí. Has escrito un libro. Enhorabuena por ello. De hecho, en realidad, has sido investigador de IA y autor, profesor durante mucho tiempo. Has visto esto, el campo de la IA se graduó de un campo específico en el que los académicos estaban trabajando para convertirse en una prioridad global en la industria privada. Pero me sorprendió un poco la tesis de tu libro; ¿Realmente crees que el enfoque actual de la IA está fundamentalmente equivocado?
Stuart Russell: Así que déjame llevarte un poco, incluso antes de comenzar a hacer IA. Entonces, Alan Turing, quien, como todos saben, es el padre de la ciencia de la computación, es por eso que estamos aquí, escribió un artículo muy famoso en 1950 llamado "Computación, maquinaria y mente", de ahí proviene la prueba de Turing. Presentó muchos subcampos diferentes de IA, propuso que necesitaríamos usar el aprendizaje automático para crear programas suficientemente inteligentes.