Las opiniones expresadas por los contribuyentes de Entrepreneur son propias.
Desde generar imágenes del Papa sólo por diversión hasta algoritmos que ayudan a clasificar las aplicaciones y reducir la carga de los gerentes de contratación, los programas de inteligencia artificial han conquistado la conciencia pública y el mundo empresarial. Sin embargo, es importante no pasar por alto las cuestiones éticas potencialmente profundamente arraigadas que implica.
Estas innovadoras herramientas técnicas generan contenido aprovechando los datos existentes y otros materiales. Sin embargo, si estas fuentes se basan, aunque sea parcialmente, en prejuicios raciales o de género, por ejemplo, es probable que la IA reproduzca esto. Para aquellos de nosotros que queremos vivir en un mundo donde la diversidad, la equidad y la inclusión (DEI) están a la vanguardia de las nuevas tecnologías, todos deberíamos preocuparnos por cómo los sistemas de inteligencia artificial crean contenido y el impacto que sus resultados tienen en la empresa.
Si usted es un desarrollador, un emprendedor de IA o simplemente un ciudadano preocupado como yo, considere estos principios que pueden incorporarse a las aplicaciones y programas de IA para garantizar que produzcan resultados más éticos y equitativos.
Relacionado: ¿Qué se necesita para construir una IA verdaderamente ética? Estos 3 consejos pueden ayudar
1. Cree un diseño centrado en el usuario
El diseño centrado en el usuario garantiza que el programa que desarrolle atraiga a sus usuarios. Esto puede incluir funciones como interacciones de voz y funciones de lector de pantalla que ayudan a las personas con discapacidad visual. Los modelos de reconocimiento de voz, por otro lado, pueden incluir más diferentes tipos de voces (por ejemplo, voces femeninas o aplicando acentos de todo el mundo).
En pocas palabras, los desarrolladores deberían prestar mucha atención a quién están dirigidos sus sistemas de IA y pensar más allá del grupo de ingenieros que los desarrollaron. Esto es especialmente importante si usted y/o los empresarios desean escalar sus productos a nivel mundial.
2. Construir un equipo diverso de revisores y tomadores de decisiones.
El equipo de desarrollo de una aplicación o programa de IA es crucial no sólo en su creación sino también desde una perspectiva de revisión y toma de decisiones. Un informe para 2023 El estudio, publicado por el AI Now Institute de la Universidad de Nueva York, describió la falta de diversidad en múltiples niveles del desarrollo de la IA. Contenía la notable estadística de que al menos el 80% de los profesores de IA son hombres y que menos del 20% de los investigadores de IA en las principales empresas de tecnología del mundo son mujeres. Sin los controles, equilibrios y representación adecuados en el desarrollo, corremos un grave riesgo de alimentar los programas de IA con datos obsoletos y/o sesgados que perpetúen tropos injustificados sobre ciertos grupos.
3. Verificar conjuntos de datos y crear estructuras de rendición de cuentas.
No es necesariamente culpa directa de nadie si hay datos antiguos que perpetúan los sesgos, pero Es
Relacionado: Estos emprendedores están adoptando un sesgo en la inteligencia artificial
4. Recopile y seleccione datos diversos
Si después de examinar la información que utiliza un programa de IA, descubre que existen inconsistencias, sesgos y/o sesgos, trabaje para recopilar mejor material. Es más fácil decirlo que hacerlo: recopilar datos lleva meses o incluso años, pero el esfuerzo definitivamente vale la pena.
Para avanzar en este proceso, como emprendedor que dirige una startup de IA con recursos para investigación y desarrollo, cree proyectos en los que los miembros del equipo creen nuevos datos que representen diversas voces, rostros y características. Esto conducirá a material fuente más apropiado para aplicaciones y programas de los que todos podemos beneficiarnos y, esencialmente, creará un futuro mejor que muestre a diferentes individuos de una manera multidimensional en lugar de unilateral o simplista.
Relacionado: La inteligencia artificial puede ser racista, sexista y aterradora. Aquí hay 5 formas en que puedes combatir esto en tu empresa
5. Participar en capacitación sobre ética de la IA sobre prejuicios e inclusión.
Como consultor de DEI y orgulloso creador del curso de LinkedIn, Navegando la IA a través de una lente DEI interseccional, Aprendí la importancia de centrar DEI en el desarrollo de la IA y el impacto positivo que tiene.
Si usted o su equipo tienen dificultades para elaborar una lista de tareas relacionadas para desarrolladores, revisores y otros, le recomiendo realizar una capacitación ética adecuada, incluido un curso en línea que puede ayudarlo a solucionar problemas en tiempo real.
A veces, todo lo que necesita es un entrenador que lo guíe a través del proceso y solucione cada problema uno por uno para lograr un resultado duradero que produzca datos y programas de IA más ricos, más diversos y más éticos.
Relacionado: Los 6 rasgos que necesita para tener éxito en el lugar de trabajo acelerado por IA
Los desarrolladores, emprendedores y otras personas que se preocupan por reducir el sesgo en la IA deberían utilizar nuestra energía colectiva para capacitarse sobre cómo formar equipos de revisores diversos que puedan revisar y revisar los datos y centrarse en los diseños, haciendo que los programas sean más inclusivos y accesibles. El resultado será un panorama que representa una gama más amplia de usuarios, así como un mejor contenido.