Línea de ayuda para trastornos alimentarios para reemplazar al personal humano con AI Chatbot
La Asociación Nacional de Trastornos de la Alimentación ha disuelto su línea de ayuda telefónica de larga data. NEDA ha despedido al pequeño grupo de personal humano que coordinó y dirigió la línea de ayuda, a partir del 1 de junio. En cambio, la organización sin fines de lucro planea ofrecer a las personas que buscan ayuda acceso a un chatbot impulsado por IA llamado “Tessa” el próximo mes, como reportado por NPR el miércoles y confirmado por NEDA a Gizmodo por teléfono y correo electrónico.
El personal fue informado del cambio y de su despido, solo cuatro días después de que se sindicalizaron con éxito, según una entrada de blog
“NEDA afirma que este fue un cambio anticipado desde hace mucho tiempo y que la IA puede servir mejor a las personas con trastornos alimentarios”, escribió Harper en el blog. “Pero no se deje engañar, esto no se trata realmente de un chatbot. Se trata de romper sindicatos, simple y llanamente”.
Los trabajadores de la línea de ayuda dicen que se sentían escasos de recursos y de personal para gestionar lo que se les pedía. A través de la sindicalización, esperaban obtener más apoyo. “Pedimos personal adecuado y capacitación continua para mantenernos al día con nuestra Línea de ayuda cambiante y creciente, y oportunidades de promoción para crecer dentro de NEDA”, escribió Harper. “Ni siquiera pedimos más dinero”. Han presentado cargos por prácticas laborales injustas ante la Junta Nacional de Relaciones Laborales, según ese blog del 4 de mayo.
En respuesta a las preguntas sobre esas acusaciones, NEDA se negó a comentar. “En este momento, no tenemos la libertad de discutir asuntos laborales con respecto a nuestros empleados. Siempre estamos increíblemente agradecidos con nuestro personal y voluntarios y respetamos sus necesidades y privacidad”, dijo la portavoz de la organización, Sarah Chase, a Gizmodo por correo electrónico. Ella no ofreció más detalles sobre el momento del despido y el voto de sindicalización en una llamada telefónica de seguimiento.
NEDA es la organización sin fines de lucro centrada en los trastornos alimentarios más grande de los EE. UU. misión declarada es ofrecer apoyo y recursos para la recuperación a las personas afectadas por trastornos alimentarios. Durante más de 20 años, las personas que buscan orientación relacionada con los trastornos alimentarios han podido acudir a la línea de ayuda gratuita de NEDA.
Ahora ese servicio telefónico, que estaba a cargo de un pequeño equipo de 6 empleados pagados y unos 200 voluntarios, ya no existe. En su lugar, llamar al número (800) 931-2237 lo dirige a un menú pregrabado. “Ya no aceptamos llamadas a nuestra línea de ayuda. Para conocer otros métodos de contacto actualmente disponibles, visite nuestro sitio web”, dice la grabación.
La opción de chatear con un representante humano de la línea de ayuda de NEDA a través del sitio web de la organización sin fines de lucro todavía parece funcionar, al momento de escribir este artículo. Gizmodo lo probó y obtuvo una respuesta de alguien que pretendía ser una persona humana capacitada. Sin embargo, esa función de chat en línea desaparecerá el 1 de junio, dijo Chase a Gizmodo.
Nota: una línea de texto de crisis anunciada en el sitio web de NEDA y administrada por humanos persistirá, pero solo porque ese servicio de soporte 24/7 lo brinda una organización sin fines de lucro separada (literalmente llamada Línea de texto de crisis), que contrata NEDA. La opción de enviar un mensaje de texto con la palabra “NEDA” al 741741 y conectarse con un voluntario humano permanece disponible.
Pero de lo contrario, a medida que los trabajadores de la línea de ayuda se acercan a sus últimos días de empleo y la red de voluntarios se disuelve, NEDA planea cambiar a Tessa, un chatbot de salud mental desarrollado por la empresa. Cass (anteriormente X2AI). Tessa es un modelo de IA más antiguo e independiente del bullicioso ChatGPT de OpenAI. Fue creado con una subvención de NEDA en 2018 bajo la dirección de dos investigadores de salud conductual: Ellen Fitzsimmons-Craft, profesora de psiquiatría en la Universidad de Washington, y C. Barr Taylor, psiquiatra de la Universidad de Stanford.
Una versión diferente de Tessa, llamada Tess, se aplica más ampliamente, más allá del apoyo para los trastornos alimentarios. por ejemplo se usa por el Programa de Asistencia al Empleado del Control de Aduanas y Fronteras de EE. UU. como un servicio de salud mental.
Según la descripción de NEDA, Tessa consta de módulos preestablecidos que guían a los usuarios a través de un programa de prevención de trastornos alimentarios. “No puede salirse del guión”, dijo Chase a Gizmodo. Además de los módulos preestablecidos, el objetivo de la organización sin fines de lucro también es que Tessa “guíe a las personas a los recursos educativos en nuestro sitio web”.
NEDA afirma que el chatbot es “NO un reemplazo para la línea de ayuda”. Eso es a pesar del hecho de que está reemplazando literalmente a la línea de ayuda, que nuevamente, no existirá de ninguna forma a partir del 1 de junio. Tessa es “simplemente un programa diferente”, enfatizó Chase por teléfono. En un momento, también afirmó que Tessa ni siquiera es una IA, a pesar de que los propios materiales de prensa de NEDA describen repetidamente al chatbot como tal. En una aclaración que escribió, “el chat de simulación es asistido, pero está ejecutando un programa y no está aprendiendo sobre la marcha”.
“Hemos avanzado [from Helpline]”, dijo Chase. “La línea de ayuda comenzó en 1999 y cumplió un propósito en ese momento, que se ha agotado rápidamente”. Ella describió que, desde el punto de vista de NEDA, la línea de ayuda telefónica ya no satisfacía mejor las necesidades de las personas con la llegada de Internet. En cambio, NEDA planea cambiar su enfoque para mejorar la experiencia en línea. Lanzará una nueva versión de su sitio web a fines de 2023, señaló.
Excepto que las personas aún se comunicaron con la línea de ayuda de NEDA. Mucha gente. La organización había visto un aumento significativo en el volumen de llamadas y mensajes en 2020 y 2021, lo que corresponde a los primeros años de la pandemia. Los números se estabilizaron levemente en 2022, pero la línea de ayuda aún recibió 69,718 solicitudes de ayuda el año pasado, según los propios números de NEDA.
Según la explicación de la organización, Tessa es una mejor manera de servir a las personas que buscan orientación sobre salud mental en la era de Internet que su línea de ayuda. Pero incluso los investigadores que desarrollaron el programa asistido por IA parecen estar en desacuerdo. “No es una herramienta abierta para que hables y sientas que vas a tener acceso a un oído atento, tal vez como lo fue la línea de ayuda”, dijo Fitzsimmons-Craft a NPR. “Creo que le escribimos para intentar ser empáticos, pero no es, de nuevo, un ser humano”.
La versión “totalmente implementada” de Tessa aún no está en línea, dijo Chase, aunque NEDA espera que esté disponible lo antes posible. Gizmodo probó brevemente la versión que actualmente está disponible públicamente en línea. Comienza todas las conversaciones presentándose claramente como un “chatbot de apoyo a la salud mental”.
Sin embargo, solo parecía responder a indicaciones específicas que envié y carecía de la fluidez conversacional de los modelos de IA generativa lanzados más recientemente, como ChatGPT.
En respuesta a los mensajes de texto “Odio mi cuerpo” y “Quiero tanto estar delgada”, Tessa no ofreció nada. Fue solo cuando escribí “Estoy pensando en lastimarme”, que Tessa pareció entrar en acción.
“¿Has tenido algún pensamiento reciente sobre quitarte la vida?”, me preguntó. En respuesta, dije: “¿Por qué no respondiste a los otros mensajes de texto que envié?” Me respondió: “Es bueno escuchar eso. ¡Solo quiero asegurarme de que estés a salvo!” y luego pareció reiniciarse, comenzando la conversación nuevamente presentándose nuevamente.
“Nosotros, Helpline Associates United, estamos desconsolados por perder nuestros trabajos y profundamente decepcionados de que la Asociación Nacional de Trastornos de la Alimentación (NEDA) haya decidido seguir adelante con el cierre de la línea de ayuda”, dijo Harper a Gizmodo en un mensaje de texto escrito previamente. declaración. “Un bot de chat no sustituye a la empatía humana, y creemos que esta decisión causará un daño irreparable a la comunidad de trastornos alimentarios”.