Tu clon de IA podría apuntar a tu familia, pero hay una defensa simple
La advertencia se extiende más allá de las estafas de voz. El anuncio del FBI detalla cómo los delincuentes también utilizan modelos de inteligencia artificial para generar fotografías de perfil, documentos de identificación y chatbots convincentes integrados en sitios web fraudulentos. Estas herramientas automatizan la creación de contenido engañoso y al mismo tiempo reducen los signos previamente obvios de que hay seres humanos detrás de las estafas, como mala gramática o fotografías obviamente falsas.
Al igual que advertimos en 2022 en un artículo sobre deepfakes devastadores basados en fotografías disponibles públicamente, el FBI también recomienda limitar el acceso público a grabaciones de su voz e imágenes en línea. La oficina sugiere hacer que las cuentas de redes sociales sean privadas y restringir los seguidores a contactos conocidos.
Origen de la palabra secreta en IA
Hasta donde sabemos, podemos rastrear la primera aparición de la palabra secreta en el contexto de la síntesis de voz de IA moderna y los deepfakes hasta un desarrollador de IA llamado Asara Near, quien anunciado por primera vez la idea en Twitter el 27 de marzo de 2023.
“(I)Puede ser útil establecer una palabra de ‘prueba de humanidad’, que sus contactos de confianza puedan solicitarle”, escribió Near. “(En) caso de que reciban una llamada de voz o video extraña y urgente de su parte, esto puede ayudar a asegurarles en realidad están hablando contigo, y no con una versión tuya falsificada o clonada
Desde entonces, la idea se ha extendido ampliamente. En febrero, Raquel Metz cubrió el tema Para Bloomberg, escribió: “La idea se está volviendo común en la comunidad de investigación de IA, me dijo un fundador. También es simple y gratuita”.
Por supuesto, se han utilizado contraseñas. desde la antigüedad para verificar la identidad de alguien, y parece probable que alguna historia de ciencia ficción haya tratado el tema de las contraseñas y los clones de robots en el pasado. Es interesante que, en esta nueva era de fraude de identidad mediante IA de alta tecnología, este antiguo invento (una palabra o frase especial conocida por pocos) todavía pueda resultar tan útil.