Durante el fin de semana, una imagen generada por IA del Papa Francisco con una bata blanca hinchada se volvió viral en Twitter, y aparentemente muchas personas creía que era una imagen real. Desde entonces, el pontífice hinchado ha comentario inspirado sobre la naturaleza engañosa de las imágenes generadas por IA, que ahora son casi fotorrealistas.
La imagen del Papa, creada con Midjourney v5 (un modelo de síntesis de imágenes de IA), apareció por primera vez en un tweet
No mucho después, Twitter adjuntó una advertencia de contexto agregado por el lector al tuit que dice: “Esta es una imagen generada por IA del Papa Francisco. No es una foto genuina.“
Como se señaló en nuestro artículo sobre las fotos de arresto de Donald Trump generadas por inteligencia artificial de la semana pasada, las pautas de Twitter establecen que los usuarios “no pueden compartir engañosamente medios sintéticos o manipulados que puedan causar daño”. Aunque en este caso, la línea entre el daño y la parodia puede ser confusa.
¿Cómo sabemos que la imagen es falsa? Aparte de un Publicación de Reddit que contiene imágenes alternativas del Papa de la persona que probablemente lo hizo, The Verge rompe la evidencia bastante bien en una pieza que analiza el impacto de la imagen falsa. Por ejemplo, si amplía los detalles, verá signos reveladores de síntesis de imágenes en detalles distorsionados como el collar del crucifijo del Papa, la sombra torcida de sus anteojos y lo que sea que lleve en la mano (¿una copa?).
Pero aun así, con un vistazo rápido, la foto falsa (“fauxto”?) parece bastante realista. Y como señala The Verge, una imagen elegante del Papa Francisco juega con nuestras creencias sobre el papado, que a menudo implica imágenes salvajes no falsas—aunque el Papa Francisco es conocido por su “humilde” trajes
Un viaje a mitad de camino
El servicio de imágenes utilizado para crear la foto falsa, a mitad de camino, debutó el año pasado. Junto con DALL-E y Stable Diffusion, es uno de los tres principales modelos de síntesis de imágenes que se han vuelto populares en línea. Los tres permiten a los usuarios generar imágenes novedosas usando solo descripciones de texto llamadas “indicaciones”.
a mitad de camino
En este caso, el mensaje utilizado para crear la foto del papa hinchado podría haber sido tan simple como “Papa Francisco con una bata blanca hinchada” porque Midjourney ha hecho grandes avances en el fotorrealismo recientemente, representando escenas complejas llenas de detalles a partir de mensajes relativamente simples.
Lo que significa esta capacidad casi sin esfuerzo para falsificar fotos para el futuro de los medios aún es incierto, pero como hemos especulado antes, debido a la síntesis de imágenes, es posible que nunca podamos volver a creer lo que vemos en línea.