Ars Technica
La Administración del Ciberespacio de China recientemente reglamentaciones emitidas Prohibir la creación de medios generados por IA sin etiquetas claras, como marcas de agua, entre otras políticas.informes El registro. Las nuevas reglas forman parte de la respuesta en evolución de China a la tendencia de IA generativa que se extendió por el mundo tecnológico en 2022, y entrarán en vigencia el 10 de enero de 2023.
En China, el Administración del Ciberespacio supervisa la regulación, supervisión y censura de Internet. Según las nuevas regulaciones, la administración vigil ará más de cerca lo que llama tecnología de “síntesis profunda”.
En una publicación de noticias en el sitio web de la Oficina de la Comisión Central de Asuntos del Ciberespacio de China, el gobierno describió sus razones para emitir la regulación. Señaló la reciente ola de IA de síntesis de texto, imagen, voz y video, que China reconoce como importante para el crecimiento económico futuro (traducción a través de Google Translate):
En los últimos años, la tecnología de síntesis profunda se ha desarrollado rápidamente. Mientras satisface las necesidades del usuario y mejora la experiencia del usuario, también ha sido utilizado por algunas personas sin escrúpulos para producir, copiar, publicar y difundir información ilegal y dañina, para calumniar y menospreciar la reputación y el honor de otros, y para falsificar la identidad de otros. La comisión de fraude, etc., afecta el orden de las comunicaciones y el orden social, lesiona los derechos e intereses legítimos de las personas y pone en peligro la seguridad nacional y la estabilidad social.
La introducción del “Reglamento” es una necesidad para prevenir y resolver los riesgos de seguridad, y también es una necesidad para promover el desarrollo saludable de los servicios de síntesis en profundidad y mejorar el nivel de las capacidades de supervisión.
Según las regulaciones, los nuevos productos de síntesis profunda estarán sujetos a una evaluación de seguridad por parte del gobierno. Cada producto debe ser encontrado en conformidad con las regulaciones antes de que pueda ser lanzado. Además, la administración enfatiza particularmente el requisito de “marcas” obvias (como marcas de agua) que denotan contenido generado por IA:
Los proveedores de servicios de síntesis profunda deberán agregar señales que no afecten el uso del contenido de información generado o editado utilizando sus servicios. Los servicios que brindan funciones como diálogo inteligente, voz humana sintetizada, generación de rostros humanos y escenas realistas inmersivas que generan o cambian significativamente el contenido de la información, se marcarán de manera destacada para evitar la confusión pública o la identificación errónea.
Se requiere que ninguna organización o individuo use medios técnicos para borrar, alterar u ocultar las marcas relevantes.
Además, las empresas que brindan tecnología de síntesis profunda deben mantener sus registros en conformidad con la ley, y las personas que usan la tecnología deben registrarse para cuentas con sus nombres reales para que se pueda rastrear su actividad de generación.
Al igual que EE. UU., China ha visto un auge en las aplicaciones impulsadas por IA. Por ejemplo, una de las principales empresas tecnológicas de China, Baidu, produjo un modelo de síntesis de imágenes similar a DALL-E y Stable Diffusion.
Un número creciente de expertos en tecnología ha reconocido recientemente que China y Estados Unidos se enfrentan a una próxima ola de IA generativa que podría plantear desafíos a las estructuras de poder, permitir el fraude o incluso alterar nuestro sentido de la historia. Hasta ahora, los dos países han reaccionado con reacciones casi opuestas: EE. UU. con directrices no vinculantes frente a las firmes restricciones de China.
En 2019, China publicó sus primeras reglas que hizo ilegal la publicación de “noticias falsas” sin marcar. Esas reglas entraron en vigencia a principios de 2020.
Imagen de listado por Ars Technica