La rendición de cuentas y la supervisión deben ser continuas porque los modelos de IA pueden cambiar con el tiempo; de hecho, la exageración en torno al aprendizaje profundo, en contraste con las herramientas de datos convencionales, se basa en su flexibilidad para ajustarse y modificarse en respuesta a los datos cambiantes. Pero eso puede conducir a problemas como la deriva del modelo, en el que el rendimiento de un modelo, por ejemplo, en la precisión predictiva, se deteriora con el tiempo o comienza a mostrar fallas y sesgos, cuanto más tiempo vive en la naturaleza. Las técnicas de explicabilidad y los sistemas de supervisión humanos en el circuito no solo pueden ayudar a los científicos de datos y a los propietarios de productos a crear modelos de IA de mayor calidad desde el principio, sino que también se pueden usar a través de sistemas de monitoreo posteriores a la implementación para garantizar que la calidad de los modelos no disminuya con el tiempo. tiempo.
“No solo nos enfocamos en la capacitación de modelos o en asegurarnos de que nuestros modelos de capacitación no estén sesgados; también nos enfocamos en todas las dimensiones involucradas en el ciclo de vida del desarrollo del aprendizaje automático”, dice Cukor. “Es un desafío, pero este es el futuro de la IA”, dice. “Todos quieren ver ese nivel de disciplina”.
Priorizando la IA responsable
Existe un claro consenso comercial de que la RAI es importante y no solo algo agradable de tener. en PwC Encuesta empresarial de IA de 2022el 98% de los encuestados dijeron que tienen al menos algunos planes para hacer que la IA sea responsable a través de medidas que incluyen mejorar la gobernanza de la IA, monitorear e informar sobre el desempeño del modelo de IA y asegurarse de que las decisiones sean interpretables y fácilmente explicables.
A pesar de estas aspiraciones, algunas empresas han tenido problemas para implementar RAI. La encuesta de PwC encontró que menos de la mitad de los encuestados han planeado acciones concretas de RAI. Otro encuesta realizada por . Sloan Management Review y Boston Consulting Group descubrió que, si bien la mayoría de las empresas consideran que la RAI es fundamental para mitigar los riesgos de la tecnología, incluidos los riesgos relacionados con la seguridad, el sesgo, la equidad y la privacidad, reconocen que no lo priorizan, con un 56 % que dice que es una prioridad principal y solo un 25 % que tiene un programa completamente maduro en el lugar. Los desafíos pueden provenir de la complejidad y la cultura organizacionales, la falta de consenso sobre las prácticas o herramientas éticas, la capacidad o capacitación insuficiente de los empleados, la incertidumbre regulatoria y la integración con las prácticas de datos y riesgos existentes.
Para Cukor, RAI no es opcional a pesar de estos importantes desafíos operativos. “Para muchos, invertir en medidas de seguridad y prácticas que permitan la innovación responsable a gran velocidad se siente como una compensación. JPMorgan Chase tiene el deber para con nuestros clientes de innovar de manera responsable, lo que significa equilibrar cuidadosamente los desafíos entre cuestiones como recursos, solidez, privacidad, poder, explicabilidad e impacto comercial”. Invertir en los controles adecuados y las prácticas de gestión de riesgos desde el principio, en todas las etapas del ciclo de vida de la IA de datos, permitirá a la empresa acelerar la innovación y, en última instancia, servir como una ventaja competitiva para la empresa, argumenta.
Para que las iniciativas RAI tengan éxito, la RAI debe ser integrado en la cultura de la organización, en lugar de simplemente agregarse como una marca de verificación técnica. La implementación de estos cambios culturales requiere las habilidades y la mentalidad adecuadas. Una encuesta de . Sloan Management Review y Boston Consulting Group encontró que el 54% de los encuestados tuvo problemas para encontrar experiencia y talento en RAI, y el 53% indicó una falta de capacitación o conocimiento entre los miembros del personal actual.
Encontrar talento es más fácil decirlo que hacerlo. RAI es un campo incipiente y sus profesionales han notado la clara naturaleza multidisciplinaria del trabajo, con contribuciones provenientes de sociólogos, científicos de datos, filósofos, diseñadores, expertos en políticas y abogados, por nombrar solo algunas áreas.
“Dado este contexto único y la novedad de nuestro campo, es raro encontrar personas con una trifecta: habilidades técnicas en IA/ML, experiencia en ética y experiencia en el dominio de las finanzas”, dice Cukor. “Es por eso que RAI en finanzas debe ser una práctica multidisciplinaria con la colaboración en su núcleo. Para obtener la combinación correcta de talentos y perspectivas, debe contratar expertos en diferentes dominios para que puedan tener conversaciones difíciles y sacar a la luz problemas que otros podrían pasar por alto”.
Este artículo es solo para fines informativos y no pretende ser un asesoramiento legal, fiscal, financiero, de inversión, contable o regulatorio. Las opiniones expresadas en este documento son los puntos de vista personales de las personas y no representan los puntos de vista de JPMorgan Chase & Co. La precisión de las declaraciones, los recursos vinculados, los hallazgos informados o las citas no son responsabilidad de JPMorgan Chase & Co.
Este contenido fue producido por Insights, el brazo de contenido personalizado de .. No fue escrito por el equipo editorial de ..