Benj Edwards / Ars Technica
Si eres uno de los miles de millones de las personas que han publicado fotos de sí mismas en las redes sociales durante la última década, puede ser hora de repensar ese comportamiento. La nueva tecnología de generación de imágenes de IA permite que cualquier persona guarde un puñado de fotos (o cuadros de video) de usted, luego entrene a la IA para crear fotos falsas realistas que lo muestren haciendo cosas vergonzosas o ilegales. No todos pueden estar en riesgo, pero todos deberían saberlo.
Las fotografías siempre han estado sujetas a falsificaciones, primero en cuartos oscuros con tijeras y engrudo y luego a través de Adobe Photoshop a través de píxeles. Pero se necesitó mucha habilidad para lograrlo de manera convincente. Hoy en día, crear falsificaciones fotorrealistas convincentes se ha vuelto casi trivial.
Una vez que un modelo de IA aprende a representar a alguien, su imagen se convierte en un juguete de software. La IA puede crear imágenes de ellos en cantidades infinitas. Y el modelo de IA se puede compartir, lo que permite que otras personas también creen imágenes de esa persona.
John: un estudio de caso de redes sociales
Cuando comenzamos a escribir este artículo, le preguntamos a un valiente voluntario si podíamos usar sus imágenes de redes sociales para intentar entrenar un modelo de IA para crear falsificaciones. Estuvieron de acuerdo, pero los resultados fueron demasiado convincentes y el riesgo para la reputación resultó demasiado grande. Entonces, en su lugar, usamos IA para crear un conjunto de siete fotos simuladas de redes sociales de una persona ficticia a la que llamaremos “John”. De esa manera, podemos mostrarle los resultados de forma segura. Por ahora, supongamos que John es un tipo real. El resultado es exactamente el mismo, como verás a continuación.
En nuestro escenario ficticio, “John” es un maestro de escuela primaria. Al igual que muchos de nosotros, durante los últimos 12 años, John ha publicado fotos de sí mismo en Facebook en su trabajo, descansando en su casa o mientras viaja.
Ars Technica
Usando nada más que esas siete imágenes, alguien podría entrenar a la IA para generar imágenes que hagan parecer que John tiene una vida secreta. Por ejemplo, podría gustarle tomar selfies desnudo en su salón de clases. Por la noche, John podría ir a bares vestido como un payaso. Los fines de semana, podría ser parte de un grupo paramilitar extremista. Y tal vez estuvo en prisión por un cargo de drogas ilegales, pero se lo ha ocultado a su empleador.
-
Por la noche, “John” se viste de payaso y va a los bares.
Ars Technica
-
“John” junto a una mujer desnuda en una oficina. Está casado, y esa no es su esposa.
Ars Technica
-
“John” pasa tiempo entrenando los fines de semana como parte de un grupo paramilitar.
Ars Technica
-
John relajándose sin camisa en su salón de clases después de la escuela.
Ars Technica
-
John estuvo en prisión por cargos de drogas hace solo unos años y nunca le dijo al sistema escolar.
Ars Technica
-
John con mucho dolor, o tal vez haciendo otra cosa. Hemos recortado las partes operativas.
Ars Technica
Usamos un generador de imágenes de IA llamado Stable Diffusion (versión 1.5) y una técnica llamada cabina de ensueño para enseñar a AI cómo crear imágenes de John en cualquier estilo. Si bien nuestro John no es real, alguien podría reproducir resultados similares con cinco o más imágenes de cualquier persona. Podrían extraerse de una cuenta de redes sociales o incluso tomarse como fotogramas fijos de un video.