El FBI advirtió el lunes sobre el uso cada vez mayor de inteligencia artificial para generar videos falsos para usar en esquemas de sextorsión que intentan acosar a menores y adultos que no consultan u obligarlos a pagar rescates o cumplir con otras demandas.
El flagelo de la sextorsión existe desde hace décadas. Se trata de un conocido en línea o un extraño que engaña a una persona para que proporcione un pago, una foto explícita o con un tema sexual u otro incentivo a través de la amenaza de compartir imágenes comprometedoras ya obtenidas con el público. En algunos casos, las imágenes en posesión de los estafadores son reales y se obtuvieron de alguien que la víctima conoce o de una cuenta que fue violada. Otras veces, los estafadores solo afirman tener material explícito sin proporcionar ninguna prueba.
Después de convencer a las víctimas de que sus imágenes explícitas o comprometedoras están en posesión de los estafadores, los estafadores exigen alguna forma de pago a cambio de no enviar el contenido a familiares, amigos o empleadores. En el caso de que las víctimas envíen imágenes sexualmente explícitas como pago, los estafadores a menudo usan el nuevo contenido para mantener la estafa durante el mayor tiempo posible.
En meses recientes, el FBI dijo en un alerta publicado el lunes, ha crecido el uso de IA para g enerar videos falsos que parecen mostrar a personas reales involucradas en actividades sexualmente explícitas.
“El FBI continúa recibiendo informes de víctimas, incluidos niños menores y adultos que no dieron su consentimiento, cuyas fotos o videos fueron alterados en contenido explícito”, escribieron los funcionarios. “Las fotos o videos luego se distribuyen públicamente en las redes sociales o sitios web pornográficos con el fin de acosar a las víctimas o esquemas de sextorsión”.
Continuaron escribiendo:
A partir de abril de 2023, el FBI ha observado un aumento en las víctimas de sextorsión que informan el uso de imágenes o videos falsos creados a partir del contenido publicado en sus sitios de redes sociales o publicaciones web, proporcionados al actor malicioso a pedido o capturados durante chats de video. Según informes recientes de víctimas, los malintencionados normalmente exigían: 1. Pago (p. ej., dinero, tarjetas de regalo) con amenazas de compartir las imágenes o videos con familiares o amigos de las redes sociales si no se recibían los fondos; o 2. La víctima envía imágenes o videos reales de temática sexual.
El software y los servicios basados en la nube para crear los llamados videos deepfake son abundante en línea y recorre toda la gama desde disponible gratuitamente ofertas de código abierto
La mayoría de las ofertas de deepfake incluyen, al menos ostensiblemente, protecciones diseñadas para evitar el abuso de deepfake, por ejemplo, mediante el uso de un cheque incorporado diseñado para evitar que el programa funcione en “medios inapropiados”. En la práctica, estas barandillas a menudo son fáciles de eludir y hay servicios disponibles en los mercados clandestinos que no vienen con las restricciones.
Los estafadores a menudo obtienen fotos de las víctimas de las redes sociales o de otros lugares y las usan para crear “imágenes con temas sexuales que parecen reales y similares a la víctima, y luego las distribuyen en las redes sociales, foros públicos o sitios web pornográficos”, advirtieron los funcionarios del FBI. . “Muchas víctimas, que incluyen a menores, no saben que sus imágenes fueron copiadas, manipuladas y distribuidas hasta que otra persona les llamó la atención. Acto seguido, las fotos son enviadas directamente a las víctimas por actores malintencionados para sextorsión o acoso, o hasta que fue auto-descubierto en Internet. Una vez que circuló, las víctimas pueden enfrentar desafíos significativos para evitar el intercambio continuo del contenido manipulado o la eliminación de Internet”.
El FBI instó a las personas a tomar precauciones para evitar que sus imágenes se utilicen en falsificaciones profundas.
“Aunque aparentemente son inocuos cuando se publican o comparten, las imágenes y los videos pueden proporcionar a los actores maliciosos un suministro abundante de contenido para explotar en actividades delictivas”, afirmaron los funcionarios. “Los avances en la tecnología de creación de contenido y las imágenes personales accesibles en línea presentan nuevas oportunidades para que los actores maliciosos encuentren y se dirijan a las víctimas. Esto los deja vulnerables a la vergüenza, el acoso, la extorsión, la pérdida financiera o la revictimización continua a largo plazo”.
Las personas que han recibido amenazas de sextorsión deben conservar todas las pruebas disponibles, en particular capturas de pantalla, textos, grabaciones, correos electrónicos que documenten nombres de usuario, direcciones de correo electrónico, sitios web o nombres de plataformas utilizadas para la comunicación y direcciones IP. Pueden denunciar inmediatamente la sextorsión a: