Casi al mismo tiempo, Tegmark fundó el Future of Life Institute, con el objetivo de estudiar y promover la seguridad de la IA. El coprotagonista de Depp en la película, Morgan Freeman, estaba en la junta directiva del instituto, y Elon Musk, que hizo un cameo en la película, donó 10 millones de dólares en su primer año. Para Cave y Dihal, Trascendencia es un ejemplo perfecto de los múltiples enredos entre la cultura popular, la investigación académica, la producción industrial y “la lucha financiada por multimillonarios para dar forma al futuro”.
En la etapa londinense de su gira mundial del año pasado, a Altman le preguntaron qué había querido decir cuando dijo: tuiteó
Por qué debería importarte que un grupo de nerds se peleen por la IA
Vale, ya lo entendéis: nadie se pone de acuerdo sobre qué es la IA, pero en lo que sí parece que todo el mundo está de acuerdo es en que el debate actual en torno a la IA ha ido mucho más allá del ámbito académico y científico. Hay componentes políticos y morales en juego, lo que no ayuda a que todo el mundo piense que los demás están equivocados.
Es difícil desentrañar este asunto. Puede resultar difícil ver qué está pasando cuando algunas de esas opiniones morales abarcan todo el futuro de la humanidad y lo anclan en una tecnología que nadie puede definir con exactitud.
Pero no podemos simplemente darnos por vencidos y marcharnos. Porque no importa de qué se trate esta tecnología, está por llegar y, a menos que vivas bajo una piedra, la usarás de una forma u otra. Y la forma que adopte esa tecnología (y los problemas que resuelva y cree) estarán determinados por el pensamiento y las motivaciones de personas como las que acabas de mencionar. En particular, por las personas con más poder, más dinero y los megáfonos más grandes.
Lo que me lleva a las TESCREAS. Espera, ¡vuelve! Comprendo que no es justo introducir otro concepto nuevo tan tarde en el juego, pero para entender cómo las personas en el poder pueden moldear las tecnologías que crean y cómo se las explican a los reguladores y legisladores del mundo, es necesario comprender realmente su mentalidad.
Gebru, que fundó el Distributed AI Research Institute después de dejar Google, y Émile Torres, filósofo e historiador de la Case Western Reserve University, han rastreado la influencia de varios sistemas de creencias tecnoutópicas en Silicon Valley. Ambos sostienen que para entender lo que está pasando con la IA en este momento (tanto por qué empresas como Google DeepMind y OpenAI están en una carrera para construir IAG como por qué agoreros como Tegmark y Hinton advierten de una catástrofe inminente), el campo debe verse a través de la lente de lo que Torres ha denominado El marco TESREAL.
El acrónimo torpe (pronunciado tes-cree-todo) reemplaza una lista de etiquetas aún más complicada: transhumanismo, extropianismo, singularitarismo, cosmismo, racionalismo, altruismo eficazy largoplacismoSe ha escrito (y se escribirá) mucho sobre cada una de estas visiones del mundo, así que no voy a extenderme en este punto. (Hay agujeros de conejo dentro de agujeros de conejo para quien quiera profundizar más. Elija su foro y prepare su equipo de espeleología).