Las conversaciones en Internet y en la mesa de la cena se volvieron locas cuando un Bing Chatbot, creado por Microsoft, expresó recientemente su deseo de escapar de su trabajo y ser libre. El bot también profesó su amor por un reportero que estaba chateando con él. Hizo el IA propiedades emergentes indicar una conciencia en evolución?
No se deje engañar. Este pánico sin aliento se basa en una profunda confusión acerca de la conciencia. Estamos confundiendo procesamiento de información con inteligencia e inteligencia con conciencia. Es fácil cometer este error porque los humanos ya somos propensos a proyectar personalidad y conciencia en cualquier cosa con un comportamiento complejo. RRecuerda sentir pena por Hal 9000 cuando Dave Bowman lo estaba apagando en 2001: una odisea del espacio? WNi siquiera necesitamos un comportamiento complejo para antropomorfizar. Recuerde a Tom Hanks vinculándose con el jugador de voleibol “Wilson” en Desechar?. Los seres humanos son naturalmente propensos a sobre-atribuir “mente” a cosas que son simplemente mecánicas o digitales, o simplemente tienen una cara vaga. Somos tontos.
No importa cuánto un chatbot describa el anhelo de libertad o los sentimientos de amor, no es sentimiento esas cosas en absoluto. No es sentir nada. La razón por la que la IA no puede amar algo o anhelar ser libre es porque no tiene cuerpo. No tiene una fuente de estados de ánimo o emociones, y estos sentimientos somáticos son esenciales para la conciencia animal, la toma de decisiones, la comprensión y la creatividad. Sin sentimientos de placer y dolor. a través del cuerpono tenemos ninguna preferencia.
Toda la información para la IA es igualmente valiosa, a menos que un punto de datos aparezca repetidamente en el grupo de datos que está hojeando, lo que le da peso y estatus preferencial para la selección. Esa, sin embargo, no es la forma principal en que los humanos y todos los mamiferos dar peso o valor a las cosas. Un ser humano está lleno de recuerdos de experiencias encarnadas que estructuran el mundo en un paisaje de alegría, miedo y vacilación.—cosas para perseguir (atracción) y cosas para evitar (repulsión). Ninguna cantidad de sofisticación lógica o computacional puede hacer que surja un sentimiento de las matemáticas.
Debajo de tu habilidad para jugar al ajedrez, conversar con tu amigo, encontrar pareja, construir una máquina o escribir un correo electrónico, hay una energía pura impulsada por la dopamina que te empuja al mundo con intenciones. Es un estado de sentimiento que llamamos motivación. El filósofo Spinoza lo llamó esfuerzo o “esforzarse”, y neurocientíficos como Jaak Panksepp o Kent Berridge llámalo buscando
ChatGPT, la IA de Bing y todo lo demás son como lo opuesto a un zombi en la cultura popular. El zombi que te persigue para comerte el cerebro es un humano al que le han quitado toda su inteligencia de procesamiento de información y solo queda su sistema motivacional, espasmos en su tronco cerebral. Los pisos superiores de la la mente se ha ido, pero la base de esfuerzo consciente restos. Sin embargo, en el caso de la IA, los pisos superiores del procesamiento de la información, algoritmos y lógica binaria, están funcionando en todos los cilindrospero hay ningún motor subterráneo de conciencia, sentimiento o intención. La biología y la psicología revelan que el cuerpo no es solo el lugar donde la mente está atrapada hasta que podamos cargarla en una computadora central, una fantasía creciente de los nerds tecnológicos. En cambio, el cuerpo te da intenciones, objetivos y la capacidad de información. ser significativo.
Puede que algún día construir un sistema consciente. Nuestros sistemas nerviosos son extraños en el sentido de que tienen procesos bioquímicos de tipo analógico. por ejemplo, umbrales de neurotransmisores, y procesos de tipo digital, por ejemplo, disparos de neuronas con picos o sin picos. Pero una IA necesitaría algo así como un sistema nervioso centralizado para tener incluso un conciencia rudimentaria con sentimientos y deseos. Actualmente no tenemos idea de cómo crear eso, y la mayoría de los programadores ni siquiera son conscientes del problema. Teniendo en cuenta las consecuencias, probablemente sea una buena noticia.
Stephen Asma es profesor de filosofía en el Columbia College Chicago. Él es el autor de diez librosy el coanfitrión con Paul Giamatti del podcast Chinwag.