Las relaciones tienen que ver con la confianza, y un nuevo estudio muestra que las conversaciones asistidas por IA podrían ayudar a establecer una relación entre dos personas, pero solo mientras nadie sospeche que el otro está usando IA.
Según la investigación de un equipo de investigación de la Universidad de Cornell publicada esta semana con Informes científicos, el uso de respuestas asistidas por IA (es decir, “respuestas inteligentes”) puede cambiar el tono de conversación y las relaciones sociales, así como aumentar la velocidad de comunicación. Y aunque a menudo se usa un lenguaje emocional más positivo en estos casos, las personas que simplemente sospechan que las respuestas están influenciadas por la IA a menudo desconfían más de sus interlocutores, independientemente de si realmente se están utilizando o no.
[Related: OpenAI’s newest ChatGPT update can still spread conspiracy theories.]
En el estudio del equipo, los investigadores reunieron a 219 pares de participantes y les pidieron que trabajaran con un programa inspirado en Google Allo (en francés, “hola”), la primera plataforma de respuesta inteligente, ahora desaparecida. Luego se les pidió a las parejas que hablaran sobre cuestiones de política bajo tres condiciones: ambas partes podían usar respuestas inteligentes, solo una parte podía usarlas y ninguna podía emplearlas. Como resultado, el equipo observó que el uso de respuestas inteligentes (aproximadamente uno de cada siete mensajes) aumentó la eficiencia de las conversaciones, el lenguaje alineado positivamente y las evaluaciones positivas de los participantes. Dicho esto, aquellos que sospechaban que sus socios usaban respuestas inteligentes a menudo fueron juzgados de manera más negativa.
Mientras tanto, el estudio indicó que también podría estar sacrificando su propio toque personal por el bien de la velocidad y la conveniencia asistidas por IA. Otro experimento que involucró a 299 conversadores emparejados aleatoriamente pidió a los participantes que hablaran juntos en uno de cuatro escenarios: respuestas inteligentes predeterminadas de Google, respuestas inteligentes “positivas”, respuestas “negativas” y ninguna respuesta inteligente. Como era de esperar, las respuestas inteligentes positivas engendraron tonos generales más positivos que las conversaciones con respuestas inteligentes negativas o cero respuestas inteligentes.
[Related: Microsoft lays off entire AI ethics team while going all out on ChatGPT.]
“Si bien la IA puede ayudarlo a escribir, está alterando su lenguaje de formas que no espera, especialmente al hacer que suene más positivo”, Jess Hohenstein, investigadora postdoctoral y autora principal, dijo en un comunicado. “Esto sugiere que al usar IA que genera texto, estás sacrificando algo de tu propia voz personal”.
Malte Jung, uno de los coautores del estudio y profesor asociado de ciencias de la información, agregó que esto implica que las empresas que controlan los algoritmos tecnológicos asistidos por IA podrían influir fácilmente en las “interacciones, el lenguaje y las percepciones mutuas” de muchos usuarios.
Esto podría volverse especialmente preocupante a medida que los grandes programas de modelo de lenguaje como el motor de búsqueda Bing impulsado por ChatGPT de Microsoft y Google Bard continúen su rápida integración en un conjunto de productos respectivos de las compañías, para gran preocupación de los críticos.
“Las empresas de tecnología tienden a enfatizar la utilidad de las herramientas de IA para realizar tareas mejor y más rápido, pero ignoran la dimensión social”, dijo Jung. “No vivimos ni trabajamos aislados, y los sistemas que usamos impactan nuestras interacciones con los demás”.