Un video circula en línea con el presidente de los Estados Unidos, Donald Trump, elogiando la erradicación del SIDA.
Pero no todo es lo que parece: el video falso fue desarrollado por la organización benéfica francesa Solidarité Sida antes de una reunión de líderes mundiales en Lyon, Francia, como parte del Fondo Mundial de Lucha contra el SIDA, la Tuberculosis y la Malaria.
El video, publicado por primera vez el lunes por la organización benéfica, parecía mostrar al presidente de los Estados Unidos, Donald Trump, proclamando: "El SIDA ha terminado".
en un declaración publicado en su sitio web titulado "¿Falso hoy, cierto mañana?", Solidarité Sida se dirigió a los jefes de estado que anunciarán su contribución al Fondo Mundial para el SIDA.
"Si se hacen compromisos firmes para favorecer el acceso al tratamiento para todos … la próxima generación podrá vivir en un mundo sin SIDA", dijo.
"Solidarité Sida decidió tomar medidas para informar al público en general y desafiar el liderazgo de Francia y los Estados Unidos … transmitiendo una noticia falsa. La primera noticia falsa que podría convertirse en realidad".
¿Qué son los deepfakes?
"Un deepfake es una forma de hacer un intercambio de caras, haciendo que alguien parezca que dice algo que no dijo", dijo Sam Gregory, experto en deepfakes y director de programas de Witness, que promueve el uso del video para defender los derechos humanos, dijo a Euronews.
Los clips con audio y visuales manipulados, deepfakes utilizan una técnica de inteligencia artificial llamada aprendizaje automático, que hace que las realidades alternativas sean más fáciles de crear y compartir.
Las falsificaciones profundas que circulan con mayor frecuencia son pornográficas y de motivación política, y están en aumento.
La investigación de la compañía de seguridad cibernética Deeptrace publicada esta semana encontró que había 14,698 videos falsos en línea, en comparación con 7,964 en diciembre de 2018.
El informe dijo que el 96% eran pornográficos, a menudo con una cara de una celebridad generada por computadora que reemplaza a la de un actor adulto en una escena de naturaleza sexual.
Antes de las elecciones estadounidenses de 2020, se están tomando medidas para combatir las falsificaciones profundas en medio de las crecientes preocupaciones sobre cómo podrían influir en los votantes
La semana pasada, el gobernador de California, Gavin Newsom, firmó una legislación que ilegaliza la creación o distribución de videos, imágenes o audio de políticos manipulados para parecerse a imágenes reales dentro de los 60 días de una elección.
¿Deben los deepfakes ser utilizados por una organización benéfica?
Gregory le dijo a Euronews: "La realidad es que la mayoría de las falsificaciones se usan maliciosamente, se usan para atacar a las mujeres y es cada vez más probable que perturben nuestras sociedades".
"Creo que debemos discutir la ética del uso de falsificaciones profundas; ciertamente, esta no es la primera falsificación utilizada por una organización benéfica o un grupo político".
A principios de este año, la organización benéfica Malaria Must Die utilizó tecnología de falsificación profunda para manipular la voz de David Beckham para hacer un llamamiento para poner fin a la malaria en nueve idiomas.
Sin embargo, existe una clara diferencia entre los dos deepfakes: Beckham dio su consentimiento, mientras que el deepfake de Solidarité Sida se autoproclama "noticias falsas".
"La cuestión de si la gente debería usar deepfakes para bien, como en este contexto, es algo que debemos discutir", dijo Gregory.
¿Qué responsabilidad tienen las plataformas?
Gregory destacó que el video deepfake de Trump "claramente se nombra a sí mismo como sátira, también es bastante claro que es falso, no es un deepfake" convincente.
Pero plantea la cuestión de cómo las compañías de redes sociales deberían moderar las falsificaciones profundas y si se permite la sátira.
"Una de las grandes preguntas para las plataformas es cómo deberían etiquetar las cosas si las comparten.
"Éste dice que a mitad de camino es una farsa falsa, pero si las plataformas realmente le están diciendo afirmativamente a las personas, dado que a medida que esta tecnología mejora, es posible que no podamos verla de la manera que podemos con esta", dijo Gregory.
El experto dijo que cree que las compañías de redes sociales tienen la responsabilidad "de decirnos qué es una falsificación profunda, o cuál es una de estas otras manipulaciones, tal vez una manipulación de los labios o el audio.
"Están muy bien posicionados para hacer eso, porque verán estas falsificaciones profundas pasando por sus sistemas".
"Por lo tanto, es muy importante que desarrollen técnicas de detección que estén disponibles para que la gente común pueda ver señales de manipulación que podrían ser invisibles a simple vista o al oído".
"Hay algunas señales alentadoras de eso: las compañías como Facebook están invirtiendo para hacer que los datos de capacitación estén más disponibles, necesitamos ver más de eso, la construcción de un sistema inmune compartido de detección".