Reino Unido busca criminalizar la creación de imágenes deepfake de IA sexualmente explícitas sin consentimiento

El martes, el gobierno del Reino Unido Anunciado

una nueva ley dirigida a la creación de imágenes deepfake sexualmente explícitas generadas por IA. Según la legislación, que aún no ha sido aprobada, los infractores enfrentarían procesamiento y una multa ilimitada, incluso si no comparten ampliamente las imágenes sino que las crean con la intención de angustiar a la víctima. El gobierno posiciona la ley como parte de un esfuerzo más amplio para mejorar la protección legal de las mujeres.

Durante la última década, el auge de la tecnología de síntesis de imágenes de aprendizaje profundo ha hecho que sea cada vez más fácil para las personas con una PC de consumo crear pornografía engañosa intercambiando los rostros de los artistas con alguien que no haya dado su consentimiento para el acto. Esa práctica generó el término “deepfake” alrededor de 2017, que lleva el nombre de un usuario de Reddit llamado “deepfakes” que porno compartido falsificado por IA

en el servicio. Desde entonces, el término ha crecido hasta abarcar imágenes y vídeos completamente nuevos sintetizados completamente desde cero, creados a partir de redes neuronales que han sido entrenadas con imágenes de la víctima.

El problema no es exclusivo del Reino Unido. En marzo, los desnudos falsos de compañeras de secundaria en Florida dieron lugar a cargos contra dos niños de 13 y 14 años. El auge de los modelos de síntesis de imágenes de código abierto como Stable Diffusion desde 2022 ha aumentado la urgencia entre los reguladores de EE. UU. de intentar contener ( o al menos castigar) el acto de crear deepfakes no consensuados. El gobierno del Reino Unido tiene una misión similar.

“Según el nuevo delito, quienes crean estas horribles imágenes sin consentimiento se enfrentan a antecedentes penales y a una multa ilimitada. Si la imagen se comparte más ampliamente, los infractores podrían ser enviados a prisión”, dijo el Ministerio de Justicia del Reino Unido en un comunicado. “La nueva ley significará que si alguien crea un deepfake sexualmente explícito, incluso si no tiene la intención de compartirlo sino que simplemente quiere causar alarma, humillación o angustia a la víctima, estará cometiendo un delito penal”.

El año pasado, la controvertida Ley de Seguridad en Línea criminalizó el intercambio de imágenes deepfake no consensuadas. La nueva ley propuesta, que aún debe pasar por un proceso parlamentario para ser promulgada, marcaría la primera vez que la creación de deepfakes sexualmente explícitos de adultos sin su consentimiento se volverá ilegal en el Reino Unido (la distinción es compartir versus crear). El gobierno dice que las leyes existentes ya cubren la creación de deepfakes sexuales de niños.

El gobierno también está tratando de reforzar las leyes existentes, permitiendo cargos tanto por la creación como por la distribución de contenido deepfake, lo que podría conducir a sanciones más severas por parte de los Fiscalía de la Corona (CPS).

En un comunicado, el Ministro de Salvaguardia Laura Farris MP enfatizó la postura del gobierno y afirmó: “La creación de imágenes sexuales ultrafalsas es despreciable y completamente inaceptable, independientemente de si la imagen se comparte. Este nuevo delito envía un mensaje muy claro de que crear este material es inmoral, a menudo misógino y un crimen”.