Fernanda Viégas, profesora de ciencias de la computación en la Universidad de Harvard, que no participó en el estudio, dice que está emocionada de ver una nueva forma de explicar los sistemas de IA que no solo ofrece a los usuarios información sobre el proceso de toma de decisiones del sistema, sino que lo hace al cuestionando la lógica que ha utilizado el sistema para llegar a su decisión.
“Dado que uno de los principales desafíos en la adopción de sistemas de IA tiende a ser su opacidad, es importante explicar las decisiones de IA”, dice Viégas. “Tradicionalmente, ha sido bastante difícil explicar, en un lenguaje fácil de usar, cómo un sistema de IA llega a una predicción o decisión”.
Chenhao Tan, profesor asistente de ciencias de la computación en la Universidad de Chicago, dice que le gustaría ver cómo funciona su método en el mundo real; por ejemplo, si la IA puede ayudar a los médicos a hacer mejores diagnósticos haciendo preguntas.
La investigación muestra lo importante que es agregar algo de fricción a las experiencias con los chatbots para que las personas se detengan antes de tomar decisiones con la ayuda de la IA, dice Lior Zalmanson, profesor asistente en la Escuela de Administración Coller de la Universidad de Tel Aviv.
“Es fácil, cuando todo parece tan mágico, dejar de confiar en nuestros propios sentidos y comenzar a delegar todo al algoritmo”, dice.
En otro trabajo presentado en CHI, Zalmanson y un equipo de investigadores de Cornell, la Universidad de Bayreuth y Microsoft Research, descubrieron que incluso cuando las personas no están de acuerdo con lo que dicen los chatbots de IA, todavía tienden a usar esa salida porque piensan que suena mejor que cualquier otra cosa que podrían haber hecho. escrito ellos mismos.
El desafío, dice Viégas, será encontrar el punto óptimo, mejorar el discernimiento de los usuarios y mantener la conveniencia de los sistemas de IA.
“Desafortunadamente, en una sociedad acelerada, no está claro con qué frecuencia las personas querrán involucrarse en el pensamiento crítico en lugar de esperar una respuesta inmediata”, dice.