a mitad de camino
El miércoles en Google I/O 2023, Google Anunciado
Gracias a los modelos de síntesis de imágenes de IA como Midjourney y Stable Diffusion, se ha vuelto trivial crear cantidades masivas de falsificaciones fotorrealistas, y eso puede afectar no solo a la desinformación y la propaganda política, sino también a nuestra concepción del registro histórico a medida que entran en circulación grandes cantidades de artefactos mediáticos falsos.
En un intento por contrarrestar algunas de estas tendencias, el gigante de las búsquedas introducirá nuevas funciones en su producto de búsqueda de imágenes “en los próximos meses”. de acuerdo a a Google:
El sesenta y dos por ciento de las personas cree que se encuentra con información errónea a diario o semanalmente, según un 2022 estudio de poynter. Es por eso que continuamos creando herramientas y funciones fáciles de usar en la Búsqueda de Google para ayudarlo a detectar información errónea en línea, evaluar rápidamente el contenido y comprender mejor el contexto de lo que está viendo. Pero también sabemos que es igualmente importante evaluar el contenido visual que encuentra.
La primera función, “Acerca de esta imagen”, permitirá a los usuarios hacer clic en tres puntos en una imagen en los resultados de Google Imágenes, buscar con una imagen o captura de pantalla en Google Lens, o deslizar hacia arriba en la aplicación de Google para descubrir más sobre el historial de una imagen. incluyendo cuándo la imagen (o imágenes similares) fue indexada por primera vez por Google, dónde pudo haber aparecido por primera vez y dónde más se ha visto la imagen en línea (es decir, sitios de noticias, sociales o de verificación de hechos).
Más adelante este año, Google dice que también permitirá a los usuarios acceder a esta herramienta haciendo clic con el botón derecho o manteniendo presionada una imagen en Chrome en computadoras de escritorio y dispositivos móviles.
Este contexto adicional sobre una imagen puede ayudar a determinar su confiabilidad o indicar si merece un mayor escrutinio. Por ejemplo, al usar la función “Acerca de esta imagen”, los usuarios pueden descubrir que una imagen que ilustra un alunizaje inventado fue marcada por los medios de comunicación como generada por IA. También podría colocarlo en contexto histórico: ¿Esta imagen existía en el registro de búsqueda antes de que surgiera el ímpetu para falsificarla?
La segunda característica aborda el uso cada vez mayor de herramientas de IA en la creación de imágenes. A medida que Google comienza a implementar herramientas de síntesis de imágenes, planea etiquetar todas las imágenes generadas por sus herramientas de IA con “marcas” o metadatos especiales, almacenados en cada archivo que indica claramente sus orígenes de IA.
Y tercero, Google dice que también está colaborando con otras plataformas y servicios para alentarlos a agregar etiquetas similares a sus imágenes generadas por IA. Midjourney y Shutterstock se han adherido a la iniciativa; cada uno incorporará metadatos en sus imágenes generadas por IA que Google Image Search leerá y mostrará a los usuarios dentro de los resultados de búsqueda.
Es posible que estos esfuerzos no sean perfectos, ya que los metadatos pueden eliminarse o alterarse potencialmente, pero representan un intento notable de alto perfil para enfrentar el problema de las falsificaciones profundas en línea.
A medida que más imágenes se generan o aumentan con IA con el tiempo, es posible que descubramos que la línea entre “real” y “falso” comienza a desdibujarse, influenciada por normas culturales cambiantes. En ese momento, nuestra decisión sobre en qué información confiar como un reflejo preciso de la realidad (independientemente de cómo se haya creado) puede depender, como siempre, de nuestra fe en la fuente. Entonces, incluso en medio de una rápida evolución tecnológica, la credibilidad de una fuente sigue siendo primordial. Mientras tanto, las soluciones tecnológicas como las de Google pueden ayudarnos a evaluar esa credibilidad.