Google DeepMind está haciendo que su marca de agua de texto AI sea de código abierto
SynthID introduce información adicional en el punto de generación al cambiar la probabilidad de que se generen los tokens, explica Kohli.
Para detectar la marca de agua y determinar si el texto ha sido generado por una herramienta de inteligencia artificial, SynthID compara las puntuaciones de probabilidad esperadas para las palabras en texto con y sin marca de agua.
Google DeepMind descubrió que el uso de la marca de agua SynthID no comprometía la calidad, precisión, creatividad o velocidad del texto generado. Esa conclusión se extrajo de un experimento masivo en vivo del desempeño de SynthID después de que la marca de agua fuera implementada en sus productos Gemini y utilizada por millones de personas. Gemini permite a los usuarios clasificar la calidad de las respuestas del modelo de IA con el pulgar hacia arriba o hacia abajo.
Kohli y su equipo analizaron las puntuaciones de alrededor de 20 millones de respuestas de chatbot con y sin marca de agua. Descubrieron que los usuarios no notaron una diferencia en calidad y utilidad entre los dos. Los resultados de este experimento se detallan en un artículo. publicado en Naturaleza
hoy. Actualmente, SynthID para texto solo funciona con contenido generado por los modelos de Google, pero la esperanza es que el código abierto amplíe la gama de herramientas con las que es compatible.
SynthID tiene otras limitaciones. La marca de agua era resistente a algunas manipulaciones, como recortar texto y editar o reescribir ligeramente, pero era menos confiable cuando el texto generado por IA había sido reescrito o traducido de un idioma a otro. También es menos confiable en respuestas a preguntas que solicitan información factual, como la capital de Francia. Esto se debe a que hay menos oportunidades de ajustar la probabilidad de la siguiente palabra posible en una oración sin cambiar los hechos.