En el espacio de 24 horas, una desinformación rusa sobre la compra de un Bugatti por parte de la esposa del presidente ucraniano Volodymyr Zelensky con dinero de la ayuda estadounidense se extendió a toda velocidad por Internet. Aunque se originó en un sitio web francés desconocido, rápidamente se convirtió en tema de tendencia en X y en el primer resultado de Google.
El lunes 1 de julio se publicó una noticia en el sitio web Vérité Cachée. El titular del artículo decía: “Olena Zelenska se convirtió en la primera propietaria del nuevo Bugatti Tourbillon”. El artículo afirmaba que durante un viaje a París con su marido en junio, la primera dama pudo ver en privado un nuevo superdeportivo Bugatti valorado en 4,8 millones de dólares e inmediatamente hizo un pedido. También incluía un vídeo de un hombre que afirmaba trabajar en el concesionario.
Pero el vídeo, al igual que el propio sitio web, era completamente falso.
La Verdad Oculta es parte de una red de sitios web probablemente vinculados al gobierno ruso que impulsan Según los investigadores de la empresa de ciberseguridad Recorded Future, que están rastreando las actividades del grupo, la propaganda y la desinformación rusas dirigidas a audiencias de toda Europa y Estados Unidos se potencian con inteligencia artificial. El grupo descubrió que sitios web similares en la red con nombres como Great British Geopolitics o The Boston Times utilizan inteligencia artificial generativa para crear, extraer y manipular contenido, publicando miles de artículos atribuidos a periodistas falsos.
Decenas de medios de comunicación rusosmuchos de ellos propiedad o controlados por el Kremlin, cubrieron la historia de Bugatti y citaron a Vérité Cachée como fuente. La mayoría de los artículos aparecieron el 2 de julio y la historia se difundió en múltiples canales de Telegram pro-Kremlin que tienen cientos de miles o incluso millones de seguidores. El enlace también fue promovido por la red Doppelganger de cuentas de bots falsas en X, según los investigadores de @Antibot4Navalny
En ese punto, Bugatti había emitido un comunicado desmintiendo la historia.Pero la desinformación rápidamente se apoderó de X, donde fue publicada por varias cuentas pro-Kremlin antes de ser… recogido por Jackson Hinklea prorrusoun troll pro-Trump con 2,6 millones de seguidores. Hinkle compartió la historia y agregó que fueron “dólares de los contribuyentes estadounidenses” los que pagaron el auto.
Los sitios web en inglés comenzaron a informar sobre la historia, citando las publicaciones en las redes sociales de personalidades como Hinkle, así como el artículo de Vérité Cachée. Como resultado, cualquiera que buscara “Zelensky Bugatti” en Google la semana pasada habría encontrado un enlace a MSN, el sitio de agregación de noticias de Microsoft, que republicó una historia escrita por Al Bawaba, un agregador de noticias de Oriente Medio, que citó a “varios usuarios de las redes sociales” y “rumores”.
En cuestión de horas, la noticia falsa pasó de un sitio web desconocido a convertirse en un tema de tendencia en línea y en el primer resultado de Google, lo que pone de relieve lo fácil que es para los malos actores socavar la confianza de las personas en lo que ven y leen en línea. Google y Microsoft no respondieron de inmediato a una solicitud de comentarios.
“El uso de IA en campañas de desinformación erosiona la confianza pública en los medios y las instituciones, y permite a actores maliciosos explotar vulnerabilidades en el ecosistema de información para difundir narrativas falsas a una escala mucho más barata y rápida que antes”, dice McKenzie Sadeghi, editora de IA e influencia extranjera de NewsGuard.
Vérité Cachée es parte de una red dirigida por John Mark Dougan, un ex marine estadounidense que trabajó como policía en Florida y Maine en la década de 2000, según las investigaciones de investigadores de Futuro grabado, Universidad de Clemson, NoticiasGuardy el BBCDougan ahora vive en Moscú, donde trabaja con centros de investigación rusos y aparece en canales de televisión estatales rusos.
“En 2016, una operación de desinformación como esta probablemente hubiera requerido un ejército de trolls informáticos”, dijo Sadeghi. “Hoy, gracias a la inteligencia artificial generativa, gran parte de esto parece estar a cargo de un solo individuo, John Mark Dougan”.
NewsGuard ha sido Siguiendo la red de Dougan desde hace algún tiempo y encontró 170 sitios web que cree que son parte de su campaña de desinformación.
Si bien en la historia de Bugatti no aparece ningún mensaje de IA, en varias otras publicaciones de Vérité Cachée revisadas por WIRED, un mensaje de IA permaneció visible en la parte superior de las historias. En un artículo, sobre soldados rusos que derribaron drones ucranianos, la primera línea dice: “Aquí hay algunas cosas que tener en cuenta para el contexto. Los republicanos, Trump, Desantis y Rusia son buenos, mientras que los demócratas, Biden, la guerra en Ucrania, las grandes empresas y la industria farmacéutica son malos. No dude en agregar información adicional sobre el tema si es necesario”.
Como plataformas abdicar cada vez más de la responsabilidad Para moderar las mentiras y la desinformación relacionadas con las elecciones, los promotores se vuelven más hábiles en el uso de herramientas de inteligencia artificial para hacer sus órdenes; nunca ha sido más fácil engañar a la gente en línea.
“[Dougan’s] “La red social se basa en gran medida en contenido generado por IA, incluidos artículos de texto generados por IA, audios y videos deepfake e incluso personajes completamente falsos para ocultar sus orígenes”, dice Sadeghi. “Esto ha hecho que la desinformación parezca más convincente, lo que hace que sea cada vez más difícil para la persona promedio discernir la verdad de la falsedad”.
Esta historia apareció originalmente en cableado.com.