X de Elon Musk detuvo las búsquedas de Taylor Swift este fin de semana después Fotografías sexualmente explícitas generadas por IA de la superestrella del pop internacional se volvió viral en la plataforma. Esta es una de las pocas veces que X ha bloqueado significativamente contenido controvertido en la plataforma, que en gran medida se ha ocultado detrás de afirmaciones de ser una plataforma de “libertad de expresión” para permitir que su contenido se vuelva loco desde la adquisición de Musk.
“Algo salió mal”, dice X cuando buscar para “Taylor Swift” el lunes por la mañana. “Intenta recargar.”
Las fotos desnudas de Taylor Swift generadas por IA comenzaron a circular en X a fines de la semana pasada, y una publicación obtuvo más de 45 millones de visitas. Las publicaciones inmediatamente comenzaron a generar reacciones negativas por parte de la base de fans de Swift, lo que finalmente llevó a X a bloquear las cuentas que compartían el contenido y eliminar las publicaciones más virales. El La Casa Blanca incluso comentó
Microsoft introdujo nuevas protecciones para su herramienta de generación de imágenes, Designer, según 404 Medios el lunes, que fue identificada como la herramienta utilizada para crear las imágenes pornográficas de IA de Swift. Según los informes, Designer fue utilizado para crear imágenes sexualmente explícitas de varias otras celebridades, que circulan en 4chan y Telegram.
El lunes por la mañana, “Swift” fue tema de tendencia en X debido a las fotos de la estrella del pop apareciendo en el campo del Campeonato de la AFC con su novio Travis Kelce. Según los informes, la asistencia de Swift a los juegos de los Kansas City Chiefs ha aumentado calificaciones mejoradas de los juegos de la NFL
La convergencia de Taylor Swift y la Superbowl 58 se perfila como el evento más viral del nuevo año, lo que le da a X un cronograma de dos semanas para asegurarse de que sus fotos porno con IA no sigan circulando para entonces.
Un representante de X no respondió de inmediato a la solicitud de comentarios de Gizmodo.
La plataforma de redes sociales de Musk se ha visto consumida por un escándalo de moderación de contenido en los últimos meses, como un aumento del antisemitismo y la supremacía blanca en la plataforma ha ahuyentado a los anunciantes. Musk incluso ha desempeñado un papel en la dirección de ese movimiento, al respaldar y compartir opiniones controvertidasdefendiendo que X debería ser una plaza que promueva la libertad de expresión.
A partir del martes por la mañana, las búsquedas en X de “Taylor Swift” comenzaron a funcionar nuevamente, sin embargo, la plataforma todavía parecía detener las búsquedas de “Taylor Swift AI”. La plataforma de Elon Musk también anunció planes para reforzar su equipo de moderación de contenidos este fin de semana. X está en proceso de contratar 100 moderadores de contenido en Austin, Texas, según Reuters.
El sindicato de actores, SAG-AFTRA, se pronunció el viernes en contra de las imágenes pornográficas generadas por IA de Taylor Swift, afirmando que el contenido debería ser ilegal si se crea sin el consentimiento de alguien. Según se informa, la propia Swift es “furioso” sobre la situación. A medida que los generadores de imágenes de IA se vuelven cada vez más realistas, la pornografía de venganza creada con estas herramientas se está convirtiendo rápidamente en un gran motivo de preocupación.
X ha escrito políticas contra “desnudez no consensuada” así como “medios sintéticos y manipulados,”Ambos incluyen categóricamente pornografía Swift AI. La plataforma tiene una política sensata contra este tipo de medios y X parece estar actuando de acuerdo con sus pautas establecidas anteriormente.