Después de que una imagen realista generada por IA del Papa Francisco con un abrigo acolchado se volviera viral en las redes sociales el año pasado, el propio Papa aparentemente se dio cuenta, informa Reuters. en un mensaje Para la 58ª Jornada Mundial de las Comunicaciones Sociales, Francisco escribe: “Basta pensar en el antiguo problema de la desinformación en forma de noticias falsas, que hoy pueden recurrir a los ‘deepfakes’, es decir, la creación y difusión de imágenes que parecen perfectamente plausible pero falso (yo también he sido objeto de esto)”.
El Papa también advierte sobre los mensajes de audio que “utilizan la voz de una persona para decir cosas que esa persona nunca dijo”, continúa. “La tecnología de simulación detrás de estos programas puede ser útil en ciertos campos específicos, pero se vuelve perversa cuando distorsiona nuestra relación con los demás y con la realidad”.
En marzo de 2023, un usuario de Twitter llamado “skyferrori” utilizó el servicio de síntesis de imágenes Midjourney v5 para crear una foto falsa convincente del Papa Francisco con un abrigo largo acolchado blanco y lo publiqué en el servicio. Rápidamente se volvió viral y hoy cuenta con más de 197.000 me gusta y 28,1 millones de visitas. Mucha gente pensó que era una foto real y se destacó en ese momento por ser una de las primeras imágenes generadas por IA que engañó a una gran audiencia en línea.
“Estaba teniendo esta discusión con un amigo y, para ser honesto, no pensé que fuera falso”, escribió un comentarista llamado “thrillgore” en los foros de Ars Technica en ese momento. “Pensé que era genuino a pesar de que ese mismo día había leído que el Papa Francisco es un tipo frugal y no hace alarde de la riqueza del Vaticano… Ayer fue divertido, ahora es absolutamente horrible”.
Desde el lanzamiento de Stable Diffusion en 2022, hemos cubierto con frecuencia deepfakes y nos preocupa que socaven la confianza social, reduzcan la calidad de la información en línea al inyectar ruido, fomenten el acoso en línea y posiblemente alterando el registro histórico. Es un problema sin resolver, ya que la tecnología de marcas de agua a menudo se considera poco confiable y los proyectos de etiquetado de metadatos aún no cuentan con un respaldo generalizado. Fundamentalmente, nuestra capacidad de confiar en lo que vemos en línea se reducirá a cuánto confiemos en el mensajero.
“El desarrollo de los sistemas de inteligencia artificial, al que dediqué mi reciente Mensaje para la Jornada Mundial de la Paz, está afectando radicalmente al mundo de la información y la comunicación y, a través de él, a ciertas bases de la vida en sociedad”, advierte el Papa. “Estos cambios afectan a todos, no sólo a los profesionales en esos campos. La rápida difusión de innovaciones asombrosas, cuyo funcionamiento y potencial están más allá de la capacidad de la mayoría de nosotros para comprender y apreciar, ha demostrado ser emocionante y desorientadora”.