“El razonamiento causal es fundamental para el aprendizaje automático”, dice Nailong Zhang, ingeniero de software de Meta. Meta utiliza la inferencia causal en un modelo de aprendizaje automático que gestiona cuántas y qué tipo de notificaciones debe enviar Instagram a sus usuarios para que vuelvan.
Romila Pradhan, científica de datos de la Universidad de Purdue en Indiana, está utilizando contrafactuales para hacer que la toma de decisiones automatizada sea más transparente. Las organizaciones ahora usan modelos de aprendizaje automático para elegir quién obtiene crédito, trabajo, libertad condicional e incluso vivienda (y quién no). Los reguladores han comenzado a exigir a las organizaciones que expliquen el resultado de muchas de estas decisiones para los afectados
Pradhan cree que los contrafactuales pueden ayudar. Supongamos que el mod elo de aprendizaje automático de un banco rechaza su solicitud de préstamo y desea saber por qué. Una forma de responder a esa pregunta es con contrafactuales. Dado que la solicitud fue rechazada en el mundo real, ¿habría sido rechazada en un mundo ficticio en el que su historial crediticio fuera diferente? ¿Qué pasaría si tuviera un código postal, trabajo, ingresos, etc., diferente? Desarrollar la capacidad de responder tales preguntas en futuros programas de aprobación de préstamos, dice Pradhan, les daría a los bancos una forma de ofrecer razones a los clientes en lugar de solo un sí o un no.
Los contrafactuales son importantes porque así es como la gente piensa sobre los diferentes resultados, dice Pradhan: “Son una buena manera de capturar explicaciones”.
También pueden ayudar a las empresas a predecir el comportamiento de las personas. Debido a que los contrafactuales permiten inferir lo que podría suceder en una situación particular, no solo en promedio, las plataformas tecnológicas pueden usarlo para encasillar a las personas con más precisión que nunca.
La misma lógica que puede desentrañar los efectos del agua sucia o las decisiones de préstamo se puede usar para perfeccionar el impacto de las listas de reproducción de Spotify, las notificaciones de Instagram y la orientación de anuncios. Si reproducimos esta canción, ¿ese usuario la escuchará por más tiempo? Si mostramos esta imagen, ¿seguirá desplazándose esa persona? “Las empresas quieren entender cómo dar recomendaciones a usuarios específicos en lugar de al usuario promedio”, dice Gilligan-Lee.