Giacomo Miceli / Ars Technica
Esta semana, un artista y programador italiano llamado Giacomo Miceli debutó La conversación infinita sitio web, un chat continuo impulsado por IA entre versiones artificiales del director alemán werner herzog y filósofo esloveno Slavoj Zizekcompleto con voces realistas.
Al visitar el sitio, que no está afiliado a ninguna de las dos personas, verá retratos de carboncillo generados por IA de los dos hombres de perfil. Entre ellos, una transcripción de texto generado por IA se resalta en amarillo a medida que las voces generadas por IA simulan las de Herzog o Žižek lo leen. La conversación va y viene entre ellos, completa con distintos acentos, y puedes saltar entre cada segmento haciendo clic en las flechas debajo de los retratos.
Su creador posiciona el sitio como un comentario social sobre falsificaciones de audio y tecnologías futuras que pueden socavar la confianza en los medios en un futuro cercano. “Este proyecto tiene como objetivo crear conciencia sobre la facilidad de usar herramientas para sintetizar una voz real”, escribe Miceli en el sitio. “En este momento, cualquier tonto motivado puede hacer esto con una computadora portátil en su habitación”.
giacomo miceli
Herzog y Žižek parecen objetivos particularmente maduros para la suplantación de IA porque los oyentes pueden estar predispuestos a creer que el director filosófico y el filósofo podrían decir cosas profundas que son difíciles de entender. Como resultado, cuando el modelo de lenguaje grande estilo GPT-3 detrás de The Infinite Conversation escupe tonterías filosóficas, casi suena como algo real. Aquí hay un ejemplo de algo que dijo el falso Herzog en el sitio:
En cierto modo, Freud también tiene algo que ver con la literatura.
Era, después de todo, un escritor.
Sí, era un científico, quería
ser científico, pero también fue escritor
quien escribió estas extrañas historias.
Hay algo que parece contradecirse en Freud.
Por un lado, tenía tal
fuerte visión antropológica, que me parece muy atractiva
por otro lado, estaba limitado en su comprensión de la historia cultural.
Era muy anticuario, para él la antigüedad era
la época más importante porque reveló claramente las pulsiones
mientras que la Edad Media fue simplemente desagradable.
Sólo hacia el final de su vida lo hizo
él ve algo bueno en la Edad Media.
El diálogo aparentemente continúa para siempre. “Cuando abres este sitio web, te llevan a un punto aleatorio del diálogo”, escribe Miceli. “Todos los días se agrega un nuevo segmento de la conversación. Se pueden generar nuevos segmentos a una velocidad más rápida de lo que se necesita para escucharlos. En teoría, esta conversación podría continuar hasta el final de los tiempos”.
Según los informes, Miceli creó el sitio utilizando “herramientas de código abierto disponibles para cualquiera”, y se negó a dar detalles técnicos, aunque dijo escribió en Hacker News que podría crear un artículo explicativo dentro de la próxima semana. “La generación del guión en sí se realiza utilizando un modelo de lenguaje popular que se afinó en entrevistas y contenido escrito por cada uno de los dos oradores”, escribe en las preguntas frecuentes del sitio.
En Ars, hemos cubierto previamente la tecnología que puede manipular su voz usando IA o incluso permitir que alguien suplante audiblemente a otra persona. Y en octubre, vimos un podcast que presentaba una tecnología de síntesis de voz similar para impulsar una entrevista falsa entre Steve Jobs y Joe Rogan.
Pocos pueden dudar de que estamos a la vanguardia de una nueva era en medios sintéticos, pero cuando las máquinas hablen, ¿tendrán sentido? En The Infinite Conversation, ese no es el caso, todavía. “Todo lo que escuchas está completamente generado por una máquina”, escribe Miceli. “Las opiniones y creencias expresadas no representan a nadie. Son las alucinaciones de una losa de silicio”.