Para el siguiente entrega del club informal de libros TechCrunch, estamos leyendo la cuarta historia en Ted Chiang's Exhalación. El objetivo de este club de lectura es expandir nuestras mentes a nuevos mundos, ideas y vistas, y El ciclo de vida de los objetos de software no decepciona Centrado en un mundo futuro donde los mundos virtuales y la IA generalizada se han convertido en un lugar común, es un fantástico ejemplo de ficción especulativa que nos obliga a enfrentar todo tipo de preguntas fundamentales.
Si se ha perdido las partes anteriores de esta serie de clubes de lectura, asegúrese de visitar:
Algunas preguntas para la quinta historia de la colección, La niñera automática de Dacey, se incluyen a continuación.
Y como siempre, algunas notas más:
- ¿Quieres unirte a la conversación? No dude en enviarme sus pensamientos por correo electrónico a [email protected] o únete a algunas de las discusiones en Reddit o Twitter.
- Siga estos artículos informales del club de lectura aquí: https://techcrunch.com/book-review/. Esa página también tiene una fuente RSS incorporada para publicaciones exclusivamente en la categoría de Revisión de libros, que es de muy bajo volumen.
- Siéntase libre de agregar sus comentarios en nuestra sección de comentarios de TechCrunch debajo de esta publicación.
Pensando en El ciclo de vida de los objetos de software
Esta es una historia mucho más extensa que las historias cortas anteriores en Exhalación, con mucho más de una trama lineal que los koans fractales que experimentamos antes. Ese lienzo más amplio nos ofrece una enorme variedad de temas para debatir, desde la empatía, el significado de la humanidad y los valores que respondemos hasta las entidades artificiales, la economía del futuro digital y, en adelante, el futuro del romance, el sexo, los niños, y muerte Tengo páginas de notas de esta historia, pero no podemos abarcarlo todo, por lo que quiero ampliar solo dos hilos que encontré particularmente profundos y gratificantes.
Un objetivo central de esta historia es realmente interrogar el significado de una "persona". Chiang establece a nuestro personaje principal, Ana, como madre de una entidad digital (una "digiente") que fue guardiana del zoológico en una vida pasada. Esa historia de carrera nos da un marco agradable: nos permite a través de Ana comparar humanos con animales y, por lo tanto, contextualizar el debate sobre la personalidad en torno a los dígitos a lo largo de la historia.
Por un lado, los humanos se valoran a sí mismos como una especie, e incluso el propietario más dedicado de los dedos finalmente se mueve. Como un pasaje particularmente esclarecedor discute cuando el dueño de un paciente anuncia que su esposa está embarazada:
"Obviamente vas a tener las manos llenas", dice Ana, "pero ¿qué piensas de adoptar a Lolly?" Sería fascinante ver la reacción de Lolly a un embarazo.
"No", dice Robyn, sacudiendo la cabeza. "Ya he pasado de digients ahora".
"¿Los has pasado?"
"Estoy listo para la realidad, ¿sabes a qué me refiero?"
Con cuidado, Ana dice: "No estoy segura de que lo haga".
…
"… Gatos, perros, pacientes, todos son sustitutos de lo que se supone que debemos cuidar".
Este propietario ha hecho una clara distinción: solo hay una forma de entidad que vale la pena cuidar, solo una cosa que un humano puede considerar una persona, y es otra humana.
De hecho, a lo largo de este cuento, Chiang observa constantemente cómo los gustos, valores, normas, reglas y leyes de la sociedad humana están diseñados casi exclusivamente con los humanos en mente. Sin embargo, la historia nunca toma una postura definitiva, e incluso Ana no está del todo convencida de ningún punto de vista, ni siquiera hasta el final de la historia. Sin embargo, la narrativa nos ofrece un modelo para pensar que pensé que era valioso, y que se trata de la experiencia.
Lo que separa a los humanos de otros animales es que basamos las decisiones en nuestras propias experiencias previas. Recopilamos estas experiencias y las usamos para guiar nuestras acciones y conducirnos hacia los resultados correctos que, también por experiencia, deseamos. Es posible que queramos ganar dinero (porque la experiencia nos dice que el dinero es bueno), por lo que decidimos ir a la universidad para obtener el tipo de aprendizaje adecuado para competir eficazmente en el mercado laboral. Esencial para toda esa decisión es la experiencia vivida.
Chiang hace un punto muy claro aquí cuando se trata de una compañía llamada Exponencial, que está interesada en encontrar "IA sobrehumana" que viene sin el trabajo que Ana y los otros propietarios de los dignatarios han puesto para criar sus entidades. Ana finalmente se da cuenta de que nunca pueden encontrar lo que están buscando:
Quieren algo que responda como una persona, pero no se le deben las mismas obligaciones que una persona, y eso es algo que ella no puede darles.
Nadie puede dárselos, porque es imposible. Los años que pasó criando a Jax no solo lo hicieron divertido para hablar, no solo le proporcionaron pasatiempos y sentido del humor. Fueron lo que le dio todos los atributos que Exponential está buscando: fluidez para navegar en el mundo real, creatividad para resolver nuevos problemas, juicio que podría confiarle a una decisión importante. Cada cualidad que hacía a una persona más valiosa que una base de datos era producto de la experiencia.
Ella quiere decirles que Blue Gamma tenía más razón de lo que sabía: la experiencia no es simplemente el mejor maestro; es el único maestro … la experiencia es algorítmicamente incompresible.
De hecho, a medida que los propietarios comienzan a pensar cuándo podrían ofrecer a sus dignantes independencia para tomar sus propias decisiones, la experiencia se convierte en la palabra clave. Su capacidad para tomar sus propias decisiones en el contexto de experiencias pasadas. es lo que define su personalidad.
Entonces, cuando pensamos en la inteligencia artificial generalizada y la esperanza de crear una vida artificial sensible, creo que esta prueba de tornasol comienza a enfrentar el verdadero desafío de lo que puede ser esta tecnología. ¿Podemos entrenar una IA simplemente a través de algoritmos, o tendremos que guiar a estas IA con sus mentes abiertas pero vacías en cada paso del camino? Chiang analiza esto un poco antes en la historia:
No conocen una verdad simple: las mentes complejas no pueden desarrollarse por sí mismas. Si pudieran, los niños salvajes serían como cualquier otro. Y las mentes no crecen como lo hacen las malas hierbas, floreciendo bajo atención indiferente; de lo contrario, todos los niños en orfanatos prosperarían. Para que una mente se acerque a su máximo potencial, necesita ser cultivada por otras mentes.
De hecho, Ana y el otro personaje principal, Derek, se ven obligados a seguir empujando a sus digitos, asignándoles tareas y guiándolos a nuevas actividades para continuar impulsándolos a obtener el tipo de experiencia que necesitan para tener éxito en el mundo. ¿Por qué deberíamos asumir que una IA generalizada no sería menos perezosa que un niño hoy? ¿Por qué esperaríamos que pueda enseñarse a sí mismo cuando los humanos no pueden enseñarse a sí mismos?
Hablando de niños, quiero pasar al otro hilo en esta historia que encontré particularmente mordaz. Claramente, hay todo un paralelismo con la crianza de los hijos humanos en la vida real que es algo intrínseco a toda la historia. Creo que es obvio, y aunque interesante, muchas de las conclusiones y significados de ese concepto son obvias.
Lo más interesante es lo que significa afecto y vínculo en un mundo donde las entidades no tienen que ser "reales". Ana es una cuidadora del zoológico que tenía un profundo afecto por los animales bajo su cuidado (“Sus ojos aún se llenan de lágrimas cuando piensa en la última vez que vio a sus simios, deseando poder explicarles por qué no la volverían a ver, esperando que podrían adaptarse a sus nuevos hogares ".) Defiende enérgicamente su relación con esos animales, como lo hace con los dedos a lo largo de la historia.
Pero, ¿por qué algunas entidades son amadas más que otras si solo son códigos que se ejecutan en la nube? Los principales dígitos que aparecen en el libro fueron diseñados literalmente para ser atractivos para los humanos. A medida que Blue Gamma explora los miles de dígitos generados algorítmicamente, selecciona cuidadosamente los que atraerán a los propietarios. "En parte ha sido una búsqueda de inteligencia, pero igualmente ha sido una búsqueda de temperamento, la personalidad que no frustrará a los clientes".
La razón, por supuesto, es obvia: estas criaturas necesitan atención para prosperar, pero no lo conseguirán si no son adorables y deseables. Derek pasa su tiempo animando a los avatares de los dedos para que sean más atractivos, generando expresiones faciales espontáneas y fortuitas para crear un vínculo entre sus dueños humanos y ellos.
Sin embargo, la historia empuja mucho más este tema en capas que se conectan entre sí. Derek se siente atraído por Ana a lo largo de la historia, incluso cuando Ana se mantiene enfocada en desarrollar su propio digient y mantener su relación con su novio Kyle. Derek finalmente se da cuenta de que su propia obsesión con Ana se ha vuelto insostenible, lo cual es un sutil paralelo a la obsesión de Ana con sus digitados:
Ya no tiene una esposa que pueda quejarse de esto, y al novio de Ana, Kyle, no parece importarle, por lo que puede llamarla sin recriminarlo. Es un placer doloroso pasar tanto tiempo con ella; podría ser más saludable para él si interactuaran menos, pero no quiere detenerse.
De hecho, la tesis más fuerte del libro puede ser que este tipo de amor simplemente no es reproducible. Ana quiere unirse a una empresa llamada Polytope para recaudar fondos para transportar su digient a una nueva plataforma digital. Como parte del acuerdo del empleador, se espera que use un "transdérmico inteligente" llamado InstantRapport que use alteraciones químicas en el cerebro para volver a cablear los centros de recompensa de un humano para amar a un individuo específico automáticamente. El amor de Ana por su digient la empuja a considerar volver a cablear su propio cerebro para obtener los recursos que necesita.
Y, sin embargo, los pacientes finalmente desarrollan procesos de pensamiento similares. Marco y Polo, dos digitos propiedad de Derek, finalmente aceptan ser copiados como juguetes sexuales, a fin de proporcionar fondos para el puerto. Sus clones tendrán sus "mapas de recompensa" recableados para que amen al cliente que los compra.
La historia nos da un recordatorio inquietante de que, en última instancia, somos un grupo de neuronas que responden a los estímulos. Algunos de esos estímulos están bajo control, pero gran parte de ellos no, sino que están programados por nuestras experiencias sin nuestra intervención consciente. Y allí vemos cómo estos dos hilos se entrelazan: es solo a través de la experiencia que podemos crear afecto, y es precisamente el afecto y, por lo tanto, la experiencia lo que crea a una persona en primer lugar.
Algunas preguntas para La niñera automática de Dacey
- ¿Pueden las máquinas jugar un papel significativo en la crianza de los hijos?
- ¿Funcionó el método científico en este caso?
- Conectando esta historia a la Ciclo de vida de los objetos de software¿Qué está tratando de decir Chiang sobre la crianza de los hijos? ¿Existen similitudes o diferencias entre las concepciones de estos dos cuentos sobre niños y padres?
- ¿Deberíamos preocuparnos si un niño solo quiere hablar con una máquina? ¿Nos importa con qué entidades un humano se siente cómodo socializando?