Cuando un Imagen generada por IA de una explosión que ocurre fuera del Pentágono proliferó en las redes sociales a principios de esta semana, proporcionó una breve vista previa de un desastre de información digital contra el que los investigadores de IA han advertido durante años. La imagen fue claramente inventada, pero eso no impidió que varias cuentas prominentes como RT controlada por el estado ruso y el imitador de noticias de Bloomberg @BloombergFeed la publicaran. Según los informes, la policía local recibió comunicaciones frenéticas de personas que creían que se estaba produciendo otro ataque al estilo del 911. El caos que siguió envió una breve onda de choque a través del mercado de valores.
El falso fiasco del Pentágono se resolvió en unas pocas horas, pero podría haber sido mucho peor. A principios de este año, el científico informático Geoffrey Hinton, al que algunos se refieren como el “Padrino de la IA
Tanto las empresas emergentes como las firmas de IA establecidas están compitiendo para desarrollar nuevas herramientas de detección de falsificaciones profundas de IA para evitar que esa realidad suceda. Algunos de estos esfuerzos han estado en marcha durante años, pero la repentina explosión de la IA generativa en la conciencia general por parte de OpenAI DARLE
Las empresas que compiten para encontrar soluciones de detección lo hacen en todos los niveles de contenido. Algunos, como la startup Optic y FakeCatch de Intel, se están enfocando en descubrir la participación de la IA en el audio y los videos, mientras que otros como Fictitious.AI están enfocando sus esfuerzos más directamente en el texto generado por los chatbots de la IA. En algunos casos, estos sistemas de detección actuales parecen funcionar bien, pero los expertos en seguridad tecnológica como el ex líder de Google Trust y Saftey, Arjun Narayan, temen que las herramientas todavía estén tratando de ponerse al día.
“Aquí es donde la industria de la confianza y la seguridad debe ponerse al día sobre cómo detectamos los medios sintéticos frente a los no sintéticos”, dijo Narayan a Gizmodo en una entrevista. “Creo que la tecnología de detección probablemente se pondrá al día a medida que avance la IA, pero esta es un área que requiere más inversión y más exploración”.
Estas son algunas de las empresas que lideran la carrera para detectar deepfakes.