Gracias a la IA, probablemente sea el momento de sacar tus fotos de Internet

Los avances en las imágenes generadas por IA permiten que cualquier persona con unas cuantas fotos tuyas te coloque en casi cualquier situación.
Agrandar
/ Éste es John. el no existe Pero AI puede poner fácilmente una foto de él en cualquier situación que queramos. Y el mismo proceso puede aplicarse a personas reales con solo unas pocas fotos reales extraídas de las redes sociales.

Benj Edwards / Ars Technica

Si eres uno de los miles de millones de las personas que han publicado fotos de sí mismas en las redes sociales durante la última década, puede ser hora de repensar ese comportamiento. La nueva tecnología de generación de imágenes de IA permite que cualquier persona guarde un puñado de fotos (o cuadros de video) de usted, luego entrene a la IA para crear fotos falsas realistas que lo muestren haciendo cosas vergonzosas o ilegales. No todos pueden estar en riesgo, pero todos deberían saberlo.

Las fotografías siempre han estado sujetas a falsificaciones, primero en cuartos oscuros con tijeras y engrudo y luego a través de Adobe Photoshop a través de píxeles. Pero se necesitó mucha habilidad para lograrlo de manera convincente. Hoy en día, crear falsificaciones fotorrealistas convincentes se ha vuelto casi trivial.

Una vez que un modelo de IA aprende a representar a alguien, su imagen se convierte en un juguete de software. La IA puede crear imágenes de ellos en cantidades infinitas. Y el modelo de IA se puede compartir, lo que permite que otras personas también creen imágenes de esa persona.

John: un estudio de caso de redes sociales

Cuando comenzamos a escribir este artículo, le preguntamos a un valiente voluntario si podíamos usar sus imágenes de redes sociales para intentar entrenar un modelo de IA para crear falsificaciones. Estuvieron de acuerdo, pero los resultados fueron demasiado convincentes y el riesgo para la reputación resultó demasiado grande. Entonces, en su lugar, usamos IA para crear un conjunto de siete fotos simuladas de redes sociales de una persona ficticia a la que llamaremos “John”. De esa manera, podemos mostrarle los resultados de forma segura. Por ahora, supongamos que John es un tipo real. El resultado es exactamente el mismo, como verás a continuación.

En nuestro escenario ficticio, “John” es un maestro de escuela primaria. Al igual que muchos de nosotros, durante los últimos 12 años, John ha publicado fotos de sí mismo en Facebook en su trabajo, descansando en su casa o mientras viaja.

Estas imágenes inofensivas al estilo de las redes sociales de
Agrandar / Estas imágenes inofensivas al estilo de las redes sociales de “John” se usaron como datos de entrenamiento que nuestra IA usó para ponerlo en posiciones más comprometedoras.

Ars Technica

Usando nada más que esas siete imágenes, alguien podría entrenar a la IA para generar imágenes que hagan parecer que John tiene una vida secreta. Por ejemplo, podría gustarle tomar selfies desnudo en su salón de clases. Por la noche, John podría ir a bares vestido como un payaso. Los fines de semana, podría ser parte de un grupo paramilitar extremista. Y tal vez estuvo en prisión por un cargo de drogas ilegales, pero se lo ha ocultado a su empleador.

Usamos un generador de imágenes de IA llamado Stable Diffusion (versión 1.5) y una técnica llamada cabina de ensueño para enseñar a AI cómo crear imágenes de John en cualquier estilo. Si bien nuestro John no es real, alguien podría reproducir resultados similares con cinco o más imágenes de cualquier persona. Podrían extraerse de una cuenta de redes sociales o incluso tomarse como fotogramas fijos de un video.

Leave a Reply

Your email address will not be published.