Imágenes Meta/Getty
El martes Meta Anunciado su plan para comenzar a etiquetar imágenes generadas por IA de otras compañías como OpenAI y Google, según informó Reuters. La medida tiene como objetivo mejorar la transparencia en plataformas como Facebook, Instagram y Threads al informar a los usuarios cuando el contenido que ven es un medio sintetizado digitalmente en lugar de una foto o un video auténtico.
La decisión de Meta, que se produce durante un año electoral en EE. UU. que se espera sea polémico, es parte de un esfuerzo mayor dentro de la industria tecnológica para establecer estándares para etiquetar contenido creado utilizando modelos generativos de IA, que son capaces de producir audio, imágenes e imágenes falsas pero realistas. vídeo a partir de indicaciones escritas. (Incluso el contenido falso no generado por IA puede potencialmente confundir a los usuarios de las redes sociales, como cubrimos ayer).
El presidente de Asuntos Globales de Meta, Nick Clegg, hizo el anuncio en un entrada en el blog en el sitio web de Meta. “Vamos a adoptar este enfoque durante el próximo año, durante el cual se llevarán a cabo una serie de elecciones importantes en todo el mundo”, escribió Clegg. “Durante este tiempo, esperamos aprender mucho más sobre cómo las personas crean y comparten contenido de IA, qué tipo de transparencia consideran más valiosa y cómo evolucionan estas tecnologías”.
Clegg dijo que la iniciativa de Meta de etiquetar contenido generado por IA ampliará la práctica actual de la compañía de etiquetar contenido generado por sus propias herramientas de IA para incluir imágenes creadas por servicios de otras empresas.
“Estamos creando herramientas líderes en la industria que pueden identificar marcadores invisibles a escala, específicamente, la información ‘generada por IA’ en C2PA y IPTC estándares técnicos, para que podamos etiquetar imágenes de Google, OpenAI, Microsoft, Adobe, Midjourney y Shutterstock a medida que implementan sus planes para agregar metadatos a las imágenes creadas por sus herramientas”.
Meta dice que la tecnología para etiquetar etiquetas de contenido generadas por IA se basará en marcas de agua invisibles y metadatos incrustados en los archivos. Meta agrega una pequeña marca de agua “Imaginado con IA” a las imágenes creadas con su generador público de imágenes de IA.
En la publicación, Clegg expresó confianza en la capacidad de las empresas para etiquetar de manera confiable imágenes generadas por IA, aunque señaló que las herramientas para marcar contenido de audio y video aún están en desarrollo. Mientras tanto, Meta exigirá a los usuarios que etiqueten su contenido de audio y vídeo alterado, con sanciones no especificadas en caso de incumplimiento.
“Exigiremos que las personas utilicen esta herramienta de divulgación y etiquetado cuando publiquen contenido orgánico con un video fotorrealista o un audio con sonido realista que haya sido creado o alterado digitalmente, y podemos aplicar sanciones si no lo hacen”, escribió.
Sin embargo, Clegg mencionó que actualmente no existe una forma eficaz de etiquetar el texto generado por IA, lo que sugiere que es demasiado tarde para implementar tales medidas en el contenido escrito. Esto concuerda con nuestro informe de que los detectores de IA para texto no funcionan.
El anuncio se produce un día después de que la junta de supervisión independiente de Meta criticara la política de la compañía sobre videos alterados de manera engañosa como demasiado estrecha, recomendando que dicho contenido sea etiquetado en lugar de eliminado. Clegg estuvo de acuerdo con la crítica y reconoció que las políticas existentes de Meta son inadecuadas para gestionar el creciente volumen de contenido sintético e híbrido en línea. Considera que la nueva iniciativa de etiquetado es un paso hacia el cumplimiento de las recomendaciones de la junta de supervisión y el fomento de un impulso en toda la industria para medidas similares.
Meta admite que no podrá detectar contenido generado por IA que se haya creado sin marcas de agua ni metadatos, como imágenes creadas con algunas herramientas de síntesis de imágenes de IA de código abierto. Meta está investigando una tecnología de marca de agua de imágenes llamada Firma estable que espera poder integrarse en generadores de imágenes de código abierto. Pero mientras los píxeles sean píxeles, se pueden crear utilizando métodos fuera del control de la industria tecnológica, y eso sigue siendo un desafío para la detección de contenido de IA a medida que las herramientas de IA de código abierto se vuelven cada vez más sofisticadas y realistas.