(Dr. de la UC Berkeley El nuevo libro de Stuart Russell, "Compatible con humanos: inteligencia artificial y el problema del control, sale a la venta el 8 de octubre. He escrito una reseña, "Compatible con humanos "es una receta provocativa para repensar la IA antes de que sea demasiado tarde"Y lo siguiente en una entrevista que realicé con el Dr. Russell en su oficina de UC Berkeley el 3 de septiembre de 2019.)
Ned Desmond: Porque escribiste Compatible con humanos?
Dr. Russell He estado pensando en este problema, ¿qué pasa si tenemos éxito con la IA? – Encendido y apagado desde principios de los 90. Cuanto más lo pensaba, más veía que el camino en el que estábamos no termina bien.
(Investigadores de IA) en su mayoría solo hacían cosas de juguetes en el laboratorio, o juegos, ninguno de los cuales representaba una amenaza para nadie. Es un poco como un físico que juega pequeños trozos de uranio. No pasa nada, ¿verdad? Así que solo haremos más, y todo estará bien. Pero simplemente no funciona de esa manera. Cuando comienzas a pasar a sistemas que son más inteligentes, operan a escala global y tienen un impacto en el mundo real, como algoritmos comerciales, por ejemplo, o selección de contenido de redes sociales, de repente, estás teniendo un gran impacto en el mundo real, y es difícil de controlar. Es difícil de deshacer. Y eso se va a poner peor y peor y peor.
Dean’s Society – 23 de octubre de 2006; Stuart Russell
Desmond: Quién debería leer Compatible con humanos?
Dr. Russell Creo que todos, porque todos se verán afectados por esto. A medida que se avanza hacia el nivel humano (IA), cada gran paso aumentará el impacto en otro factor de 10 u otro factor de 100. La vida de todos se verá radicalmente afectada por esto. La gente necesita entenderlo. Más específicamente, serían los responsables políticos, las personas que dirigen las grandes empresas como Google y Amazon, y personas en IA, disciplinas relacionadas, como la teoría del control, la ciencia cognitiva, etc.
Mi opinión básica era que gran parte de este debate está ocurriendo sin entender qué es la IA. Es solo esta poción mágica que hará que las cosas sean inteligentes. Y en estos debates, las personas no entienden los componentes básicos, cómo encaja, cómo funciona, cómo se hace un sistema inteligente. Entonces el capítulo dos (de Compatible con humanos era) una especie de mamut y algunas personas dijeron: "Oh, esto es demasiado para pasar y otras dijeron:" No, absolutamente tienes que mantenerlo ". Así que me comprometí y puse las cosas pedagógicas en los apéndices.
Desmond: ¿Por qué los informáticos tienden a pasar por alto el tema de incertidumbre en el objetivo funciona para sistemas de IA?
Dr. Russell Curiosamente, en IA, tomamos en serio la incertidumbre (en la función de toma de decisiones) a partir de los años 80. Antes de eso, la mayoría de las personas con IA dijeron que simplemente trabajemos en casos en los que tengamos un conocimiento definitivo, y podamos idear planes garantizados.