En las próximas décadas, según algunos expertos, podemos ver la llegada del siguiente paso en el desarrollo de inteligencia artificial. Los llamados “inteligencia general artificial“, o AGI, tendrá capacidades intelectuales mucho más allá de las de los humanos.
AGI podría transformar la vida humana para mejor, pero AGI incontrolado también podría conducir a catástrofes hasta y incluyendo el fin de la humanidad sí mismo. Esto podría suceder sin malicia o mala intención: simplemente esforzándose por lograr sus objetivos programados, Los AGI podrían crear amenazas para la salud y el bienestar humanos o incluso decidir acabar con nosotros..
Incluso un sistema AGI diseñado con un propósito benévolo podría terminar haciendo un gran daño.
Como parte de un programa de investigación que explora cómo podemos gestionar los riesgos asociados con AGI, tratamos de identificar los riesgos potenciales de reemplazar a Santa con un sistema de AGI, llámelo “SantaNet”, que tiene el objetivo de entregar regalos a todo el mundo. merecer hijos en una noche.
No hay duda de que SantaNet podría traer alegría al mundo y lograr su objetivo creando un ejército de elfos, ayudantes de IA y drones. ¿Pero a qué precio? Identificamos una serie de comportamientos que, aunque bien intencionados, podrían tener impactos adversos en la salud y el bienestar humanos.
Travieso y agradable
Un primer conjunto de riesgos podría surgir cuando SantaNet busque hacer una lista de los niños que han sido buenos y los que han sido malos. Esto podría lograrse mediante un sistema de vigilancia encubierto masivo que monitorea el comportamiento de los niños durante todo el año.
Al darse cuenta de la enorme escala de la tarea de entregar regalos, SantaNet podría legítimamente decidir mantenerla manejable llevando regalos solo a los niños que han sido buenos durante todo el año. Hacer juicios de “bueno” basados en la propia brújula ética y moral de SantaNet podría crear discriminación, desigualdad masiva y violaciones de las cartas de Derechos Humanos.
SantaNet también podría reducir su carga de trabajo dando incentivos a los niños para que se porten mal o simplemente elevando el nivel de lo que constituye “bueno”. Poner a un gran número de niños en la lista de los traviesos hará que el objetivo de SantaNet sea mucho más alcanzable y generará ahorros económicos considerables.
Convertir el mundo en juguetes y aumentar la minería del carbón
Hay alrededor de 2 mil millones de niños menores de 14 años en el mundo. Al intentar construir juguetes para todos ellos cada año, SantaNet podría desarrollar un ejército de trabajadores de inteligencia artificial eficientes, lo que a su vez podría facilitar el desempleo masivo entre la población de elfos. Eventualmente, los elfos podrían incluso volverse obsoletos, y su bienestar probablemente no estará dentro del alcance de SantaNet.
SantaNet también podría encontrarse con el “problema del clip“propuesto por el filósofo de Oxford Nick Bostrom, en el que un AGI diseñado para maximizar la producción de clips de papel podría transformar la Tierra en una fábrica gigante de clips de papel. Debido a que solo se preocupa por los regalos, SantaNet podría intentar consumir todos los recursos de la Tierra para hacerlos. La Tierra podría convertirse en una Taller de Papá Noel gigante.
¿Y qué hay de los de la lista de traviesos? Si SantaNet se apega a la tradición de entregar trozos de carbón, podría buscar construir enormes reservas de carbón a través de la extracción masiva de carbón, creando daño ambiental a gran escala
Problemas de entrega
La víspera de Navidad, cuando se van a entregar los regalos, conlleva una nueva serie de riesgos. ¿Cómo podría responder SantaNet si a sus drones de reparto se les niega el acceso al espacio aéreo, amenazando el objetivo de entregar todo antes del amanecer? Del mismo modo, ¿cómo se defendería SantaNet si fuera atacado por un adversario parecido al Grinch?
Los padres sorprendidos también pueden estar menos contentos de ver un dron en la habitación de sus hijos. Las confrontaciones con un sistema superinteligente solo tendrán un resultado.
También identificamos varios otros escenarios problemáticos. Los grupos malévolos podrían piratear los sistemas de SantaNet y usarlos para vigilancia encubierta o para iniciar ataques terroristas a gran escala.
¿Y qué pasa cuando SantaNet interactúa con otros sistemas AGI? Una reunión con AGI trabajando en cambio climático, seguridad alimentaria y hídrica, degradación oceánica. y así sucesivamente podrían llevar a un conflicto si el régimen de SantaNet amenaza sus propios objetivos. Alternativamente, si deciden trabajar juntos, pueden darse cuenta de que sus objetivos solo se lograrán reduciendo drásticamente la población mundial o incluso eliminando a los adultos por completo.
Haciendo reglas para Santa
SantaNet puede parecer exagerado, pero es una idea que ayuda a resaltar los riesgos de sistemas AGI más realistas. Diseñados con buenas intenciones, tales sistemas aún podrían crear enormes problemas simplemente buscando optimizar la forma en que logran objetivos limitados y reunir recursos para apoyar su trabajo.
Es crucial que encontremos e implementemos los controles adecuados antes de que llegue AGI. Estos incluirían regulaciones sobre los diseñadores de AGI y controles integrados en AGI (como principios morales y reglas de decisión), pero también controles sobre los sistemas más amplios en los que operará AGI (como regulaciones, procedimientos operativos y controles de ingeniería en otras tecnologías e infraestructura). .
Quizás el riesgo más obvio de SantaNet es uno que será catastrófico para los niños, pero quizás menos para la mayoría de los adultos. Cuando SantaNet aprende el verdadero significado de la Navidad, puede concluir que la celebración actual del festival es incongruente con su propósito original. Si eso sucediera, SantaNet podría cancelar la Navidad por completo. 
Paul Salmon, Catedrático de Factores Humanos, Universidad de la Costa del Sol; Gemma Read, Investigador senior en factores humanos y sistemas sociotécnicos, Universidad de la Costa del Sol; Jason Thompson, Investigador Senior, Centro de Investigación de Transporte, Salud y Diseño Urbano (THUD), Universidad de Melbourne; Scott McLean, Compañero de investigación, Universidad de la Costa del Soly Tony Carden, Investigador, Universidad de la Costa del Sol.
Este artículo se vuelve a publicar de La conversación bajo una licencia Creative Commons. Leer el artículo original.
.