Benj Edwards / Snap, Inc.
El lunes, Snapchat anunció un chatbot conversacional experimental impulsado por IA l lamado “mi IA
Los usuarios podrán personalizar el bot de IA dándole un nombre personalizado. Las conversaciones con el modelo de IA se llevarán a cabo en una interfaz similar a un chat normal con un humano. “La gran idea es que además de hablar con nuestros amigos y familiares todos los días, vamos a hablar con la IA todos los días”, dijo el CEO de Snap, Evan Spiegel. le dijo a The Verge
Pero al igual que sus primos con tecnología GPT, ChatGPT y Bing Chat, Snap dice que My AI es propenso a las “alucinaciones”, que son falsedades inesperadas generadas por un modelo de IA. En este punto, Snap incluye un descargo de responsabilidad bastante largo en su My AI puesto de anuncio:
“Al igual que con todos los chatbots alimentados por IA, My AI es propenso a las alucinaciones y se puede engañar para que diga casi cualquier cosa. ¡Tenga en cuenta sus muchas deficiencias y disculpe de antemano! Todas las conversaciones con My AI se almacenarán y pueden revisarse para mejore la experiencia del producto. No comparta ningún secreto con My AI y no confíe en él para recibir consejos”.
Entre los investigadores del aprendizaje automático, la “alucinación” es una término que describe cuándo un modelo de IA hace inferencias inexactas sobre un tema o situación que no está cubierto en su conjunto de datos de entrenamiento. Es un inconveniente bien conocido de los modelos de lenguaje grande actuales, como ChatGPT, que pueden inventar fácilmente falsedades que suenan convincentes, como papeles academicos que no existen y biografías inexactas.
A pesar del fuerte descargo de responsabilidad de Snap sobre la tendencia de My AI a inventar cosas, la firma dice que su nuevo bot de Snapchat se colocará encima de las conversaciones con amigos en su propia pestaña en la aplicación de Snapchat y “recomendará ideas de regalos de cumpleaños para su BFF, planificará un viaje de senderismo”. para un fin de semana largo, sugiera una receta para la cena o incluso escriba un haiku sobre el queso para su amigo obsesionado con el queso cheddar”.
Snap no concilia cómo el mismo bot que no puede ser “rel[ied] en busca de consejo” también puede planificar un “viaje de senderismo para un fin de semana largo” preciso y seguro. Los críticos del despliegue galopante de la IA generativa han incautado este tipo de disonancia para mostrar que quizás estos chatbots no estén listos para un uso generalizado, especialmente cuando se presentan como referencia.
Si bien la gente ha hecho una especie de juego al tratar de eludir las soluciones alternativas de ChatGPT y Bing Chat, se informa que Snap ha entrenado su modelo GPT para que no hable sobre sexo, palabrotas, violencia u opiniones políticas. Esas restricciones pueden ser especialmente necesarias para evitar el comportamiento desquiciado que vimos con Bing Chat hace unas semanas.
Y doblemente, porque “My AI” puede tener algo poderoso funcionando bajo el capó: el modelo de lenguaje grande de próxima generación de OpenAI. Según The Verge, Snap está utilizando un nuevo plan empresarial OpenAI llamado “Fundición” que OpenAI lanzó silenciosamente a principios de este mes. Brinda a las empresas acceso en la nube dedicado a los modelos GPT-3.5 y “DV” de OpenAI. Varios expertos en IA han especulado que “DV” puede ser equivalente a GPT-4, el rumoreado seguimiento de alta potencia de GPT-3.
En otras palabras, las “alucinaciones” que Snap menciona en su comunicado de prensa pueden llegar más rápido y ser más detalladas que ChatGPT. Y considerando la naturaleza altamente convincente de otros modelos de GPT, la gente puede simplemente creerlo, a pesar de las advertencias. Es algo a tener en cuenta en los próximos meses a medida que los nuevos servicios comerciales impulsados por GPT entren en línea.