El nuevo Samsung Galaxy S24 está totalmente involucrado en la IA, tanto es así que el fabricante de teléfonos hizo un gran escándalo sobre cómo su nueva marca de agua de IA pretende disuadir a los usuarios de difundir en línea imágenes alteradas por IA o puramente falsificadas. El problema es que el S24 cuenta con tantas capacidades de inteligencia artificial que una simple herramienta similar a Magic Eraser puede eliminar esa misma marca de agua sin problemas.
En su Galaxia desempaquetada En el evento del miércoles pasado, Samsung declaró que cualquier imagen que utilizara las capacidades generativas de la compañía vendría con una marca de agua. Esto aparece en la parte inferior izquierda de cada imagen como el logotipo “brillante” de Samsung.
Gizmodo confirmó que la propia herramienta de borrado de objetos basada en IA de Samsung (la función anunciada que puede eliminar y reemplazar partes no deseadas de una foto) puede eliminar la marca de agua que se supone marca si una imagen fue generada por IA. Esto funcionó en el Galaxia S24 Ultra modelo de prueba, y algunos otros también han notado la gran supervisión destinada a evitar que las imágenes falsas hagan que Internet sea aún más inhóspito de lo que ya es.
Pero se vuelve aún más confuso. En las pruebas de Gizmodo, algunas imágenes en las que usamos la herramienta de borrado de objetos no aparecieron con una marca de agua, mientras que otras, incluido un fondo de pantalla modificado por IA, sí lo hicieron. en Samsung relanzamiento de la grabación de su conferencia Unpacked, la marca de agua aparece una vez que Mr. Beast usa la herramienta de borrado de objetos para deshacerse de su grulla de su barra de chocolate gigante (de horrible sabor). En el texto que se encuentra al final de ese mismo clip, Samsung dejó explícito que no se responsabiliza por ningún deepfake inexacto.
“Generative Edit requiere una conexión de red y el inicio de sesión de una cuenta Samsung. La edición con Edición generativa da como resultado una foto redimensionada de hasta 12 MP. Una marca de agua visible se superpone en la salida de la imagen al guardarla para indicar que la imagen es generada por IA. No se garantiza la precisión y confiabilidad de los resultados generados”.
Samsung no respondió de inmediato a la solicitud de comentarios de Gizmodo si está al tanto de estos problemas y si está trabajando para solucionarlos. La herramienta de borrado de objetos, al igual que el Magic Eraser de Google, reemplaza los píxeles de objetos no deseados en una imagen para mezclarla con el fondo. Aún no está claro por qué el sistema no simplemente reemplaza la misma marca de agua en la nueva imagen.
A las grandes empresas de IA les gusta Adobe y incluso la casa blanca han promovido las marcas de agua como una forma de lidiar con la afluencia de deepfakes de IA en línea. Estas marcas de agua, incluidas las de Samsung, también introducen metadatos en cada imagen, notificando que la imagen fue modificada. Sin embargo, editar los metadatos de una imagen con sólo un poco de conocimiento es muy fácil. Las imágenes cargadas en aplicaciones como Instagram no mostrarán ningún metadato a los usuarios que hojean sin pensar sus gramos.
Por otra parte, La IA ha demostrado desde hace tiempo que es capaz de eliminar marcas de agua. Si Samsung soluciona el problema y hace que las marcas de agua sean más herméticas, eso no impedirá que los usuarios tomen la misma foto en otras aplicaciones similares para eliminarla. DeepMind de Google ha declarado previamente que tiene una manera de instalar una marca de agua más permanente dentro de los mismos píxeles de una imagen. DeepMind no ha ofrecido información sobre cómo funciona esto o qué herramientas podrían usar las personas para identificar estas imágenes alteradas, pero la compañía mencionó que la función solo funcionaría en fotografías modificadas con las propias herramientas de Google.
Para el resto de nosotros, tendremos que conformarnos con medidas a medias.