La IA ya se está utilizando en el cuidado de la salud. Algunos hospitales utilizan la tecnología para ayudar a clasificar a los pacientes. Algunos lo usan para ayudar en el diagnóstico o para desarrollar planes de tratamiento. Pero el verdadero alcance de la adopción de IA no está claro, dice Sandra Wachter, profesora de tecnología y regulación en la Universidad de Oxford en el Reino Unido.
“A veces, en realidad, no sabemos qué tipos de sistemas se están utilizando”, dice Wachter. Pero sí sabemos que es probable que su adopción aumente a medida que la tecnología mejore y los sistemas de atención médica busquen formas de reducir los costos, dice.
La investigación sugiere que los médicos ya pueden estar poniendo mucha fe en estas tecnologías. En un estudio publicado hace unos años, se pidió a los oncólogos que compararan sus diagnósticos de cáncer de piel con las conclusiones de un sistema de IA. Muchos de ellos aceptaron los resultados de la IA, incluso cuando esos resultados contradecían su propia opinión clínica
Existe un riesgo muy real de que lleguemos a depender de estas tecnologías en mayor medida de lo que deberíamos. Y aquí es donde podría entrar el paternalismo.
“El paternalismo es capturado por el modismo ‘el doctor sabe más’” escriba a Melissa McCradden y Roxanne Kirsch del Hospital for Sick Children en Ontario, Canadá, en un artículo reciente de una revista científica. La idea es que la formación médica convierte a un médico en la mejor persona para tomar una decisión por la persona que está siendo tratada, independientemente de los sentimientos, creencias, cultura y cualquier otra cosa de esa persona que pueda influir en las decisiones que cualquiera de nosotros tome.
“El paternalismo se puede recapitular cuando la IA se posiciona como la forma más alta de evidencia, reemplazando al médico que todo lo sabe con la IA que todo lo sabe”, continúan McCradden y Kirsch. Dicen que hay una “tendencia creciente hacia el paternalismo algorítmico”. Esto sería problemático por una gran cantidad de razones.