El mundo está siendo destrozado por deepfakes generados por IA, y los últimos intentos mediocres de detenerlos no están haciendo nada. Reguladores federales llamadas automáticas deepfake prohibidas el jueves, como los hacerse pasar por el presidente Biden en las elecciones primarias de New Hampshire. Mientras tanto, OpenAI y Google lanzaron marcas de agua esta semana para etiquetar imágenes como generadas por IA. Sin embargo, estas medidas carecen de la fuerza necesaria para detener los deepfakes de IA.
“Están aquí para quedarse”, dijo Vijay Balasubramaniyan, director ejecutivo de Pindrop, que identificó a ElevenLabs como el servicio utilizado para crear la llamada automática falsa de Biden. “Es necesario adoptar tecnologías de detección de deepfake en el origen, en el punto de transmisión y en el destino. Simplemente tiene que suceder en todos los ámbitos”.
Los esfuerzos de prevención de deepfake son sólo superficiales
Según Balasubramaniyan, la Comisión Federal de Comunicaciones (FCC) que prohíbe las llamadas automáticas deepfake es un paso en la dirección correcta, pero hay una aclaración mínima sobre cómo se hará cumplir. Actualmente, estamos atrapar deepfakes después de que el daño ya está hechoy rara vez castigar a los malos actores responsables. Eso es demasiado lento y en realidad no soluciona el problema en cuestión.
OpenAI introdujo marcas de agua en las imágenes de Dall-E esta semana, tanto visualmente como incrustadas en los metadatos de una foto. Sin embargo, la empresa simultáneamente reconoció que esto se puede evitar fácilmente tomando una captura de pantalla. Esto se sintió menos como una solución y más como si la empresa dijera: “¡Bueno, al menos lo intentamos!”
Mientras tanto, deepfakes del jefe de un trabajador financiero en Hong Kong lo engañó con 25 millones de dólares
El problema de los deepfake solo va a empeorar
Estas soluciones simplemente no son suficientes. El problema es que la tecnología de detección de deepfake es nueva y no se está popularizando tan rápido como la IA generativa. Plataformas como Meta, X e incluso su compañía telefónica deben adoptar la detección de deepfake. Estas empresas están apareciendo en los titulares sobre todas sus nuevas funciones de IA, pero ¿qué pasa con sus funciones de detección de IA?
Si estás viendo un vídeo deepfake en Facebook, deberían tener una advertencia al respecto. Si recibe una llamada telefónica falsa, su proveedor de servicios debería tener un software para detectarla. Estas empresas no pueden simplemente levantar las manos, pero ciertamente lo están intentando.
La tecnología de detección de deepfake también necesita mejorar mucho y generalizarse mucho más. Actualmente, la detección de deepfake no es 100% precisa para nada, según el director ejecutivo de CopyLeaks, Alon Yamin. Su empresa tiene una de las mejores herramientas para detectar texto generado por IA, pero detectar voz y video de IA es otro desafío. La detección de deepfake está rezagada en la IA generativa y necesita acelerarse rápidamente.
Los deepfakes son realmente la nueva desinformación, pero es mucho más convincente. Existe cierta esperanza de que la tecnología y los reguladores se estén poniendo al día para abordar este problema, pero los expertos coinciden en que los deepfakes solo empeorarán antes de mejorar.