De hecho, ya ha habido varios casos de alto perfil en los que se han utilizado fotos deepfake en campañas de desinformación dañinas. En diciembre de 2019, Facebook identificó y eliminó una red de más de 900 páginas, grupos y cuentas
Toler dice que los rostros falsos se han convertido en una tendencia en su línea de trabajo como investigador de código abierto sobre actividades sospechosas en línea, especialmente desde el lanzamiento de ThisPersonDoesNotExist.com, un sitio web que ofrece un nuevo rostro generado por IA con cada actualización. “Siempre hay una lista de verificación mental que revisa cada vez que encuentra algo”, dice. “La primera pregunta es:” ¿Esta persona es real o no? ” que era una pregunta que realmente no teníamos hace cinco años “.
¿Qué tan grande es esta amenaza? Por el momento, Toler dice que el uso de caras deepfake no ha tenido un gran impacto en su trabajo. Todavía es relativamente fácil para él identificar cuando una imagen de perfil es una deepfake, al igual que cuando la foto es una imagen de archivo. El escenario más difícil es cuando la imagen es de una persona real extraída de una cuenta privada de una red social que no está indexada en los motores de búsqueda de imágenes.
La creciente conciencia de la existencia de deepfakes también ha preparado a las personas para que escudriñen los medios que ven con más atención, dice Toler, como lo demuestra la rapidez con la que la gente se dio cuenta de la falsificación de las cuentas de Amazon.
Pero Sam Gregory, el director del programa de Witness, una organización sin fines de lucro de derechos humanos, dice que esto no debería adormecernos con una falsa sensación de seguridad. Los deepfakes están constantemente “mejorando”, dice. “Creo que la gente tiene demasiada confianza en que siempre será posible detectarlos”.
Una hiperconciencia de los deepfakes también podría llevar a las personas a dejar de creer en los medios reales, lo que podría tener consecuencias igualmente nefastas, como socavar la documentación de abusos de derechos humanos.
¿Qué debemos hacer? Gregory anima a los usuarios de las redes sociales a evitar fijarse en si una imagen es una deepfake o no. A menudo, eso es solo “una pequeña parte del rompecabezas”, dice. “La revelación no es que de alguna manera hayas interrogado la imagen. Es que miras la cuenta y fue creada hace una semana, o es un periodista que dice ser periodista, pero nunca ha escrito nada más que puedas encontrar en una búsqueda de Google “.
Estas tácticas de investigación son mucho más sólidas frente a los avances en la tecnología deepfake. Este consejo también es válido para el caso de Amazon. Fue a través de la verificación de los correos electrónicos de las cuentas y los detalles de los tweets que Toler finalmente determinó que eran falsos. No escudriñando las imágenes de perfil.