El multimillonario cofundador de LinkedIn, Reid Hoffman, ha publicado recientemente un vídeo ‘entrevista’ con su nuevo avatar digital, Reid AI. Construido sobre un GPT personalizado entrenado en dos décadas de libros, artículos, discursos, entrevistas y podcasts de Hoffman, Reid AI utiliza tecnología de falsificación de voz y video para crear un clon digital capaz de aproximarse a los gestos y el tono conversacional de su sujeto fuente. Durante más de 14 minutos, puedes ver a los dos Hoffman mirar con amor y con ojos muertos, respectivamente, el extraño ombligo de la industria tecnológica. Al hacerlo, a los espectadores no se les ofrece una “manera de ser mejores, de ser más humanos”, como sostiene el verdadero Hoffman, sino un camino hacia un futuro equivocado, peligroso, poco ético y vacío.
Muchas personas podrían estremecerse ante la idea de lanzar al mundo un avatar de IA animado y parlante de sí mismos, pero el inversionista tecnológico utópico de la “ciudad de ayer” parece absolutamente entusiasmado con eso. Según un Publicación de blog del 24 de abril
Después provocando una exhibición de su clon digital Durante meses, Hoffman finalmente reveló una conversación en video (muy editada) entre él y “Reid AI” la semana pasada. ¿Y qué significa la culminación de vanguardia y animación deepfake de un chatbot GPT-4 personalizado entrenado en todo lo relacionado con Hoffman? Una pregunta sólida, y que no es fácil de responder después de observar la interacción simulada surrealista, incómoda y en ocasiones antihigiénica.
“¿Por qué querría que me entrevistara una versión digital de mí mismo?” Hoffman plantea al comienzo del vídeo. En primer lugar, aparentemente se trata de resumir uno de sus libros para una serie de datos demográficos de audiencia potenciales: la persona más inteligente del mundo, niños de 5 años, Seinfeld
En medio de todo su entusiasmo, Hoffman, como tantas figuras influyentes de la industria tecnológica, revela una vez más un malentendido fundamental sobre cómo funciona la IA generativa. Tecnología como GPT de OpenAI, por muy adornada que esté con adiciones visuales y de audio, no es capaz de comprender. Cuando una IA responde “Gracias” o “Creo que es un gran punto”, en realidad no siente gratitud ni piensa en nada. La IA generativa ve las oraciones como líneas de código, cada letra o espacio seguida por la siguiente, probablemente letra o espacio. Esto se puede adaptar a audio conversacional y doblar a personajes de video, pero eso no cambia la funcionalidad subyacente. Simplemente recibió una nueva entrada simbólica que influye en lo que básicamente equivale a un sistema de autocorrección superpoderoso. Incluso si su idioma está configurado en klingon, como ofrece Reid AI en un momento.
Entonces, cuando Reid AI advierte a Hoffman que puede obtener una respuesta incorrecta “porque malinterpreté la información que diste o no tengo el contexto completo de tu pregunta”, Hoffman no se detiene para explicar ninguno de los hechos anteriores a los espectadores. En lugar de eso, pasa al siguiente punto de conversación, que generalmente implica un complemento para sus libros o LinkedIn.
[Related: A deepfake ‘Joe Biden’ robocall told voters to stay home for primary election.]
Mientras tanto, el componente visual de Reid AI supuestamente está destinado a simular muchos de los gestos y colas conversacionales de Hoffman. A juzgar por el desempeño de Reid AI, estos se reducen en gran medida a intentos forzados de “asentir vigorosamente”, “golpear enfáticamente para ilustrar un punto” y “hurgarse la nariz”. Como Nuevo Atlas señala, el momento a las 10:44 es una peculiaridad extraña para incluir en un video tan claramente condensado y editado, tal vez destinado a ilustrar algunos de los rasgos más incómodos y identificables de la humanidad. Si es así, no distrae la atención de los sentimientos mucho más absurdos y preocupantes expresados por ambos Hoffman.
Reid AI expone temas de conversación tecno-libertarios repetitivos para fomentar un “marco que impulse la innovación”. Hoffman opina repetidamente que cualquier preocupación por el sesgo, la privacidad, el trabajo y la propiedad digital es sólo un “comienzo”.[ing] con lo negativo y [not realizing] todas las cosas que son positivas”. El clon digital regurgita formas insulsas y poco creativas de arreglar la página de LinkedIn de Hoffman, como agregar “estilo personal”, como una imagen de encabezado divertida y colorida.
Pero el momento más preocupante llega cuando Hoffman sostiene que “todos deberían preguntarse: ‘¿Qué puedo hacer para ayudar?’” para hacer que la IA, como los avatares digitales, sea más común. Incluso llega a equiparar la actual era tecnológica con la adopción por parte de Europa de la máquina de vapor, que la convirtió en “una fuerza tan dominante en todo el mundo”. (Ni él ni Reid AI reconocen las otras herramientas involucradas en la revolución industrial, por supuesto, es decir, un sistema colonialista construido sobre el trabajo de millones de poblaciones explotadas y esclavizadas).
Hoffman dice que las versiones futuras de Reid AI se sumarán “a la gama de capacidades, de cosas que podría hacer”. Es un sentimiento extremadamente revelador: implica que personas como Hoffman no tienen reparos en borrar cualquier demarcación entre su yo clonado y su yo auténtico. Al menos, Hoffman ya ha encontrado al menos una tarea que Reid AI puede realizar por él.
“Tengo curiosidad por saber qué piensan los demás sobre cómo mitigar la suplantación de identidad y todos los demás tipos de riesgos derivados de tal caso de uso y lograr una ‘IA responsable'”, le preguntó un usuario de LinkedIn en los comentarios de su publicación de anuncio.
“Gran pregunta… Aquí está la respuesta de Reid AI”, respondió Hoffman. junto a un enlace a un nuevo clip de avatar.