Cómo las “credenciales de personalidad” podrían ayudar a demostrar que eres un ser humano en línea
Martin Tschammer, responsable de seguridad de la startup Synthesia, que crea deepfakes hiperrealistas generados por IA, dice que está de acuerdo con el principio que rige las credenciales personales: la necesidad de verificar a los humanos en línea. Sin embargo, no está seguro de si es la solución adecuada o de lo práctica que sería su implementación. También expresó su escepticismo sobre quién llevaría a cabo un plan de este tipo.
“Podríamos acabar en un mundo en el que centralicemos aún más el poder y concentremos la toma de decisiones sobre nuestra vida digital, dando a las grandes plataformas de Internet aún más poder sobre quién puede existir en línea y con qué propósito”, afirma. “Y, dado el desempeño mediocre de algunos gobiernos en la adopción de servicios digitales y las tendencias autocráticas que están en aumento, ¿es práctico o realista esperar que este tipo de tecnología se adopte en masa y de manera responsable para fines de esta década?”
En lugar de esperar a que se produzca una colaboración entre los sectores, Synthesia está evaluando actualmente cómo integrar otros mecanismos de prueba de la personalidad jurídica en sus productos. Según afirma, ya ha puesto en marcha varias medidas: por ejemplo, exige a las empresas que demuestren que son empresas legítimas registradas y prohibirá y se negará a reembolsar a los clientes que hayan infringido sus normas.
Una cosa está clara: necesitamos urgentemente métodos para diferenciar a los humanos de los robots, y fomentar el debate entre las partes interesadas en la tecnología y las políticas es un paso en la dirección correcta, dice Emilio Ferrara, profesor de informática en la Universidad del Sur de California, que tampoco participó en el proyecto.
“No estamos lejos de un futuro en el que, si no se toman medidas, seremos básicamente incapaces de distinguir las interacciones que tengamos en línea con otros humanos o con algún tipo de bots. Hay que hacer algo”, afirma. “No podemos ser tan ingenuos como lo fueron las generaciones anteriores con las tecnologías”.