"Compatible con humanos" es una receta provocativa para repensar la IA antes de que sea demasiado tarde – TechCrunch

Dr. Stuart Russell, un distinguido investigador de IA y científico de la computación en la Universidad de California en Berkeley, cree que existe una deficiencia fundamental y potencialmente civilizadora en el "modelo estándar" de IA, que se enseña (y el Dr. Russell escribió el libro de texto principal) y se aplica prácticamente en todas partes. El nuevo libro del Dr. Russell, Compatible con humanos: inteligencia artificial y el problema del control

, argumenta que a menos que reconsideremos los componentes básicos de la IA, la llegada de la IA sobrehumana puede convertirse en el "último evento en la historia de la humanidad".

Eso puede sonar un poco loco, pero Compatible con humanos

es una explicación cuidadosamente escrita de los conceptos subyacentes a la IA, así como la historia de su desarrollo. Si desea comprender qué tan rápido se está desarrollando la IA y por qué la tecnología es tan peligrosa, Compatible con humanos es tu guía, literalmente comenzando con Aristóteles y terminando con Triunfo de OpenAI Five en Dota 2.

El objetivo de Stuart es ayudar a los no tecnólogos a comprender por qué los sistemas de inteligencia artificial deben diseñarse no solo para cumplir con los "objetivos" asignados a ellos, el llamado "Modelo estándar" en el desarrollo de inteligencia artificial hoy en día, sino para operar de manera "que las máquinas necesariamente difieran a los humanos : pedirán permiso, aceptarán la corrección y se dejarán desconectar ".