Los defensores de los derechos de las personas con discapacidad están preocupados por la discriminación en las herramientas de contratación de IA

Hacer que la tecnología de contratación sea accesible significa garantizar que un candidato pueda usar la tecnología y que las habilidades que mide no excluyan injustamente a los candidatos con discapacidades, dice Alexandra Givens, el CEO de la Centro para la democracia y la tecnología, una organización centrada en los derechos civiles en la era digital.

Las herramientas de contratación impulsadas por inteligencia artificial a menudo no incluyen a las personas con discapacidades al generar sus datos de capacitación, dice. Estas personas han sido excluidas durante mucho tiempo de la fuerza laboral, por lo que los algoritmos modelados a partir de las contrataciones anteriores de una empresa no reflejarán su potencial.

Incluso si los modelos pudieran tener en cuenta los valores atípicos, la forma en que se presenta una discapacidad varía mucho de una persona a otra. Dos personas con autismo, por ejemplo, podrían tener fortalezas y desafíos muy diferentes.

“A medida que automatizamos estos sistemas y los empleadores buscan lo más rápido y eficiente, están perdiendo la oportunidad de que las personas demuestren realmente sus calificaciones y su capacidad para hacer el trabajo”, dice Givens. “Y esa es una gran pérdida”.

Un enfoque de no intervención

Los reguladores gubernamentales tienen dificultades para monitorear las herramientas de contratación de IA. En diciembre de 2020, 11 senadores escribieron una carta al Comisión de Igualdad de Oportunidades en el Empleo de EE. UU. expresando preocupaciones sobre el uso de tecnologías de contratación después de la pandemia del covid-19. La carta preguntaba sobre la autoridad de la agencia para investigar si estas herramientas discriminan, particularmente contra las personas con discapacidades.

La EEOC respondió con una carta en enero que se filtró a .. En la carta, la comisión indicó que no puede investigar las herramientas de contratación de AI sin una denuncia específica de discriminación. La carta también describió las preocupaciones sobre la vacilación de la industria para compartir datos y dijo que la variación entre el software de diferentes compañías evitaría que la EEOC instituya políticas amplias.

“Me sorprendió y decepcionó cuando vi la respuesta”, dice Roland Behm, abogado y defensor de personas con problemas de salud conductual. “Todo el tenor de esa carta parecía hacer que la EEOC pareciera más un espectador pasivo que una agencia de aplicación”.

Por lo general, la agencia inicia una investigación una vez que una persona presenta una denuncia por discriminación. Sin embargo, con la tecnología de contratación de IA, la mayoría de los candidatos no saben por qué fueron rechazados para el trabajo. “Creo que una de las razones por las que no hemos visto más acciones de cumplimiento o litigios privados en esta área se debe al hecho de que los candidatos no saben que están siendo calificados o evaluados por una computadora”, dice Keith Nerd, un comisionado de la EEOC.

Sonderling dice que cree que la inteligencia artificial mejorará el proceso de contratación y espera que la agencia emita una guía para los empleadores sobre la mejor manera de implementarla. Dice que agradece la supervisión del Congreso.

.

Leave a Reply

Your email address will not be published. Required fields are marked *

This site uses Akismet to reduce spam. Learn how your comment data is processed.