Facebook prohibirá 'Deepfakes' y otros videos engañosos

Facebook anunciado en un lunes entrada en el blog que las falsificaciones profundas (imitaciones de personas generadas por computadora) ya no se permitirán en la plataforma, junto con imágenes que de otra manera se editaron de maneras que no son obvias para la persona promedio.

Las manipulaciones pueden hacerse a través de tecnología simple como Photoshop o mediante herramientas sofisticadas que utilizan inteligencia artificial o técnicas de "aprendizaje profundo" para crear videos que distorsionan la realidad, generalmente llamados "falsificaciones profundas". Si bien estos videos aún son raros en Internet, presentan un desafío significativo para nuestra industria y sociedad a medida que aumenta su uso

. -Facebook

"Hay personas que se dedican a la manipulación de los medios para engañar", escribe la vicepresidenta de gestión de políticas globales, Monika Bickert.

En el futuro, la compañía eliminará los "medios engañosos y manipulados" si cumple con el siguientes criterios:

• Se ha editado o sintetizado, más allá de los ajustes por claridad o calidad, de maneras que no son evidentes para una persona promedio y que probablemente inducirán a error a alguien a pensar que un sujeto del video dijo palabras que en realidad no dijo. Y:
• Es el producto de la inteligencia artificial o el aprendizaje automático que fusiona, reemplaza o superpone contenido en un video, haciéndolo parecer auténtico.

La compañía dice que la política sí no aplicar a parodia o sátira, o un video que ha sido "editado únicamente para omitir o cambiar el orden de las palabras".

Pero la política, informada por primera vez por The Washington Post y confirmada por Facebook el lunes por la noche, no prohíbe todos los videos manipulados. Las nuevas pautas del gigante tecnológico no parecen abordar un clip engañosamente editado de la Presidenta de la Cámara de Representantes, Nancy Pelosi, que fue viral en la red social el año pasado

, provocando críticas de los líderes demócratas y expertos digitales.

"Si bien estos videos aún son poco frecuentes en Internet, presentan un desafío importante para nuestra industria y la sociedad a medida que aumenta su uso", Monika Bickert, vicepresidenta de gestión de políticas globales de la compañía, escribió en una publicación de blog. –El Correo de Washington

De acuerdo con la BBC, Facebook anunció en septiembre pasado que asignaría $ 10 millones para mejorar la tecnología de detección de falsificación profunda.

Mark Zuckerberg, director ejecutivo de Facebook, apareció en un video falso. El clip presentaba una versión generada por computadora de Zuckerberg que acredita a una organización secreta por el éxito de la red social.

William Tunstall-Pedoe, un científico informático que vendió su compañía de inteligencia artificial a Amazon, dijo a BBC News que Facebook merecía crédito por tratar de abordar el "área difícil".

"El hecho de que el video sea falso y pretenda ser engañoso es la clave para mí", dijo." Ya sea que se utilicen técnicas sofisticadas de IA o técnicas menos sofisticadas, no es relevante ".

Otras compañías como Google y Microsoft también están tratando de combatir las falsificaciones profundas. –BBC

Según el informe, Facebook trabajará con la academia, el gobierno y las empresas para combatir las falsificaciones profundas.