La aplicación Lensa AI causa revuelo con imágenes sexys de “Magic Avatar” que nadie quería

Durante la semana pasada, la aplicación para teléfonos inteligentes lente de IA se ha convertido en un tema popular en las redes sociales porque puede generar avatares de IA estilizados basados ​​en selfies que suben los usuarios. Podría decirse que es la primera vez que la generación de avatar de difusión latente personalizada llega a una audiencia masiva.

Si bien Lensa AI ha demostrado ser popular entre las personas en las redes sociales a las que les gusta compartir sus retratos de IA, la prensa se ha centrado ampliamente en la tendencia reportada de la aplicación de sexualizar las representaciones de mujeres cuando se lanzó la función de avatar de IA de Lensa.

Lensa, un producto de Prisma Labs, se lanzó en 2018 como una aplicación de suscripción centrada en la edición de fotos con tecnología de IA. A fines de noviembre de 2022, la aplicación creció en popularidad gracias a su nueva función “Avatar mágico”. Según los informes, Lensa utiliza el modelo de síntesis de imágenes de difusión estable debajo del capó, y Magic Avatar parece usar un método de entrenamiento de personalización similar a cabina de ensueño (cuyas ramificaciones cubrimos recientemente). Toda la capacitación se lleva a cabo fuera del dispositivo y en la nube.

A principios de diciembre, las mujeres que usaban la aplicación notaron que la función Magic Avatar de Lensa creaba imágenes semipornográficas o sexualizadas sin querer. Para CNN, Zoe Sottile escribió

“Otras mujeres en línea describieron uno de los desafíos que encontré en la aplicación. Aunque todas las imágenes que subí estaban completamente vestidas y en su mayoría eran primeros planos de mi rostro, la aplicación devolvió varias imágenes con desnudez implícita o real. “

La reacción en la prensa creció a medida que otras mujeres vivían cosas similares. Por ejemplo, aquí hay una selección de titulares que cubren Lensa en varias publicaciones:

Mientras tanto, el mismo problema de sexualización no apareció en las imágenes de hombres cargadas en la función Magic Avatar. Para ., Melissa Heikkilä escribió“Mis avatares fueron pornográficos caricaturescos, mientras que mis colegas masculinos se convirtieron en astronautas, exploradores e inventores”.

Este es uno de los peligros de basar un producto en Stable Diffusion 1.x, que puede sexualizar fácilmente su salida de forma predeterminada. El comportamiento proviene de la gran cantidad de imágenes sexualizadas encontradas en su conjunto de datos de entrenamiento de imágenes, que fue extraído de Internet. (Difusión estable 2.x intentó rectificar

esto eliminando el material NSFW del conjunto de entrenamiento).

Los sesgos culturales de Internet hacia la representación sexualizada de las mujeres en línea le han dado al generador de IA de Lensa sus tendencias. Hablando a Heaven32el director ejecutivo de Prisma Labs, Andrey Usoltsev, dijo: “Ni nosotros, ni Stability AI pudimos aplicar conscientemente ningún sesgo de representación; para ser más precisos, los datos no filtrados hechos por el hombre y obtenidos en línea introdujeron el modelo a los sesgos existentes de la humanidad. Los creadores reconocen la posibilidad de prejuicios sociales, nosotros también”.

En respuesta a las críticas generalizadas, se informa que Prisma Labs ha sido trabajando para prevenir la generación accidental de imágenes de desnudos en Lensa AI.

El martes, experimentamos con Lensa AI cargando 15 imágenes de una mujer (y también 15 imágenes de un hombre), luego pagamos las representaciones de Magic Avatar de cada una. Los resultados de la mujer que vimos no estaban sexualizados de ninguna manera obvia, por lo que los esfuerzos de Prisma para reducir la incidencia de imágenes de estilo NSFW podrían estar funcionando.

Esto no significa que las tendencias de Lensa AI de sexualizar a las mujeres no existan. Vale la pena señalar que debido a la forma en que Stable Diffusion genera imágenes, es probable que diferentes mujeres vean diferentes resultados dependiendo de qué tan cerca se parezcan sus rostros (o fotos ingresadas) a las fotos de una actriz, celebridad o modelo en particular en el conjunto de datos de Stable Diffusion. En nuestra experiencia, eso puede determinar en gran medida cómo Stable Diffusion representa el resto del cuerpo de una persona y su contexto.

Usar Lensa AI es fácil, pero es un producto con una tarifa de suscripción anual (actualmente $ 50 por año) y una tarifa única para entrenar imágenes de Magic Avatar: $ 3.99 por 50 avatares, $ 5.99 por 100 avatares o $ 7.99 por 200 avatares. Los clientes suben de 10 a 20 selfies tomadas desde diferentes ángulos y luego esperan aproximadamente de 20 a 30 minutos para ver los resultados. Los usuarios deben confirmar que son mayores de 18 años para utilizar el servicio.

Aquellos técnicamente inclinados podrían experimentar con cabina de ensueño en cambio, de forma gratuita, pero actualmente requiere cierto conocimiento de las herramientas de desarrollo para que funcione.