El Skyrim La comunidad de modding está actualmente envuelta en su propia controversia sobre la pornografía deepfake, con el popular sitio de modding NexusMods y la tecnología de clonación de voz de IA en su centro. Antes del lanzamiento de la próxima epopeya espacial de Bethesda, campo estelary la creencia de que el juego será una especie de Edén para la comunidad de modding, quienes se oponen al uso de mods pornográficos generados por IA enfatizan la importancia de vigilar este tipo de contenido, especialmente cuando se trata de obtener el consentimiento de cualquier persona cuyos datos personales se utilizó para crear el mod AI.
Leer más: Las secuelas del escándalo porno deepfake de Twitch
Insertar personajes, agregar líneas de voz y cambiar apariencias a través de modding ha sido posible desde SkyrimEl lanzamiento original de Bethesda en 2011. El juego de rol de mundo abierto de Bethesda ya es famoso por ser un patio de recreo para contenido erótico que permite a los jugadores posar y vestir a los NPC como mejor les parezca. Sin embargo, los avances en la tecnología de IA han ampliado lo que los jugadores pueden importar a sus juegos. Las modificaciones recientes (de las cuales hay docenas) usan tecnología de clonación de voz de compañías como ElevenLabs para imitar las voces de los usuarios existentes. Skyrim
El Skyrim Controversia sobre las falsificaciones profundas de la IA
Muchos de los mods de línea de voz pornográficos también incluyen mods de revisión visual para los personajes (que son casi exclusivamente mujeres), o se vinculan a ellos, para que se vean más realistas o, en muchos casos, más corpulentos.
He visto algunas de estas modificaciones en acción, y ciertamente no se acercan a retratar un encuentro sexual realista: la entrega de la línea de madera de las voces generadas por IA es otro recordatorio de que la IA no puede ni debe reemplazar a las personas reales. pero eso no hace que la existencia de tales mods sea menos problemática.
Robbie, el usuario de Twitter que llamó la atención sobre estas modificaciones (él mismo un Skyrim modder), afirma que los actores de voz que se comunicaron con NexusMods pudieron eliminar el contenido relacionado con ellos, pero mi ciudad no fue capaz de confirmar esto de forma independiente. NexusMods, el mayor repositorio de mods para juegos como skyrim, dijo en un Declaración de abril de 2023 “El contenido de modificación generado por IA no está en contra de nuestras reglas, pero puede eliminarse si recibimos una queja creíble de un creador/titular de derechos afectado”. La postura ha resultado controvertida, especialmente porque las modificaciones generadas por IA están actualmente activas en el sitio. mi ciudad contactó a NexusMods para hacer comentarios.
La situación irritable ha llevado a la comunidad a comenzar a tener conversaciones sobre lo que sucederá a continuación. Robbie escribió un Publicación de Reddit en el Skyrim mods subreddit llamando la atención sobre las modificaciones pornográficas y argumentando a favor de su eliminación, rápidamente se convirtió en el sitio de un intenso debate antes de que los moderadores lo bloquearan. Algunos se quejaron de que la publicación original estaba infringiendo los Términos de servicio de Reddit al “animar a la gente… a formar una brigada en otro sitio web”, mientras que otros señalaron como excusa una percepción de falta de indignación contra la técnica tradicional de empalmar líneas de voz “vainilla” para generar contenido explícito. para desestimar la controversia actual.
La publicación original también hacía referencia a los Términos de servicio de ElevenLabs, que supuestamente requieren que las personas que usan el software obtengan el consentimiento para “cargar y clonar” muestras de voz. ElevenLabs requiere que aquellos que usan su tecnología de clonación de voz sean suscriptores pagos de su servicio, en un esfuerzo por mitigar su uso por razones nefastas, pero está claro que esto no ha impedido que las personas usen la tecnología para crear contenido explícito. mi ciudad contactó a ElevenLabs para hacer comentarios.
Los actores de voz recurrieron a Twitter para expresar su enojo, frustración y, en muchos casos, disgusto. Aggretsuko el actor Ben Diskin colocó un tweet en su línea de tiempo de Twitter pidiendo a las personas que le hicieran saber si veían su voz en dichos sitios web. “No estoy de acuerdo con que mi(s) voz(s) sea(n) convertida(s) en clones de voz sintética sin mi consentimiento absoluto, claro, específico e innegable”, escribió. Diablo IV El actor de voz Ryan Laughton calificó la práctica como “incorrecta en todos los niveles”.
La Asociación Nacional de Actores de Voz tuiteó que “el daño a los actores de voz y las compañías de juegos por parte de la IA y las voces sintéticas es real y tangible” y pidió a Bethesda y al estudio matriz ZeniMax que “ayuden” ya que “los actores de voz no tienen la capacidad legal”. para luchar contra esto.”
Skyrim Los jugadores y los espectadores también intervinieron, y muchos expresaron su disgusto ante la perspectiva de que sus voces se introduzcan en un generador de IA que escupirá contenido explícito. “Si alguien usara mi voz para producir contenido generado por IA sin mi consentimiento, estaría furioso. Si alguien usara mi voz para producir pornografía sin mi consentimiento, llamaría a la policía de inmediato para que borraran a esa persona y a cualquier sitio que albergara ese material”, escribió u/robbobert01.
mi ciudad contactó a Bethesda para hacer comentarios.