Inteligencia artificial y discapacidad – Heaven32

Bienvenido de nuevo a Mixtape, el podcast de Heaven32 que analiza el elemento humano que impulsa la tecnología.

Para este episodio hablamos con Meredith Whittaker, cofundador de la Instituto AI Now y profesor de investigación de Minderoo en NYU; Mara Mills, profesora asociada de Medios, Cultura y Comunicación en NYU y codirectora de la Centro de Estudios de Discapacidad de la NYU; y Sara Hendren, profesora de Olin College of Engineering y autora de la recientemente publicada Qué puede hacer un cuerpo: cómo nos encontramos con el mundo construido.
Fue una discusión amplia sobre intelig encia artificial y discapacidad. Hendren nos inició explorando la distinción entre los modelos médico y social de discapacidad:

Entonces, en un modelo médico de discapacidad, como se articula en los estudios de discapacidad, la idea es simplemente que la discapacidad es un tipo de condición o deficiencia o algo que está sucediendo con su cuerpo que lo saca del estado promedio normativo del cuerpo dice algo en su estructura sensorial o movilidad o lo que sea que esté deteriorado y, por lo tanto, el tipo de discapacidad vive en el cuerpo mismo. Pero en un modelo social de discapacidad, es solo una invitación a ampliar un poco la apertura e incluir, no solo el cuerpo en sí y lo que hace o no hace biológicamente. Pero también la interacción entre ese cuerpo y las formas normativas del mundo.

Cuando se trata de tecnología, dice Mills, algunas empresas trabajan de lleno en el ámbito del modelo médico con el objetivo de ser una cura total en lugar de una simple adaptación, mientras que otras empresas o tecnologías, e incluso los inventores, trabajarán más en el mo delo social con el objetivo de transformar el mundo y crear un alojamiento. Pero a pesar de esto, dice ella, todavía tienden a tener “ideas fundamentalmente normativas o convencionales de función y participación en lugar de ideas para la discapacidad”.

“La pregunta con la IA, y también con las viejas cosas mecánicas como Brailers, diría yo, sería ¿estamos apuntando a percibir el mundo de diferentes maneras, de manera ciega, de manera minoritaria? ¿O el objetivo de la tecnología, incluso si se trata de hacer un cambio social o de infraestructura, sigue siendo algo estándar, normativo o aparentemente típico? Y eso es: hay muy pocas tecnologías, probablemente por razones financieras, que realmente apuesten por el diseño avanzado de la discapacidad “.

Como señala Whittaker, la IA por su naturaleza es fundamentalmente normativa.

“Saca conclusiones de grandes conjuntos de datos, y ese es el mundo que ve, ¿verdad? Y analiza lo que es más promedio en estos datos y lo que es un valor atípico. Entonces, es algo que está replicando consistentemente estas normas, ¿verdad? Si está entrenado en los datos y luego recibe una impresión del mundo que no coincide con los datos que ya ha visto, esa impresión será un valor atípico. No reconocerá que no sabrá cómo tratar eso. Correcto. Y hay muchas complejidades aquí. Pero creo, creo que eso es algo que debemos tener en cuenta como una especie de núcleo de esta tecnología, cuando hablamos de sus aplicaciones potenciales dentro y fuera de este tipo de incentivos capitalistas, como ¿qué es capaz de hacer? ¿Qué hace? ¿Cómo actúa? Y podemos pensar en ello, ya sabes, posiblemente en compañía que abarque las múltiples, ya sabes, enormes cantidades de formas en las que la discapacidad se manifiesta o no ”.

Hablamos sobre esto y mucho más en el último episodio de Mixtape, por lo que hace clic en reproducir arriba y profundiza. Y luego suscríbete donde sea que escuches podcasts.

Leave a Reply

Your email address will not be published. Required fields are marked *