Laurel: Genial. Gracias por esa detallada explicación. Entonces, debido a que usted se especializa personalmente en gobernanza, ¿cómo pueden las empresas equilibrar la provisión de salvaguardas para la implementación de inteligencia artificial y aprendizaje automático, y al mismo tiempo fomentar la innovación?
Estefanía: Por lo tanto, equilibrar las salvaguardas para la implementación de AI/ML y fomentar la innovación pueden ser tareas realmente desafiantes para las empresas. Es a gran escala, y está cambiando extremadamente rápido. Sin embargo, esto es de vital importancia para tener ese equilibrio. De lo contrario, ¿cuál es el punto de tener la innovación aquí? Hay algunas estrategias clave que pueden ayudar a lograr este equilibrio. Número uno, establezca políticas y procedimientos de gobierno claros, revise y actualice las políticas existentes donde no se adapten al desarrollo e implementación de AI/ML en las nuevas políticas y procedimientos que se necesitan, como el monitoreo y el cumplimiento continuo como mencioné anteriormente. En segundo lugar, involucre a todas las partes interesadas en el proceso de desarrollo de AI/ML. Partimos de los ingenieros de datos, el negocio, los científicos de datos, también los ingenieros de ML que implementan los modelos en producción. Revisores de modelos. Actores empresariales y organizaciones de riesgo. Y eso es en lo que nos estamos enfocando. Estamos construyendo sistemas integrados que brindan transparencia, automatización y una buena experiencia de usuario de principio a fin.
Entonces, todo esto ayudará a simplificar el proceso y a unir a todos. En tercer lugar, necesitábamos crear sistemas que no solo permitieran este flujo de trabajo general, sino que también capturaran los datos que permiten la automatización. A menudo, muchas de las actividades que ocurren en el proceso del ciclo de vida de ML se realizan a través de diferentes herramientas porque residen en diferentes grupos y departamentos. Y eso da como resultado que los participantes compartan información, revisen y cierren la sesión manualmente. Por lo tanto, tener un sistema integrado es fundamental. Cuarto, monitorear y evaluar el rendimiento de los modelos AI/ML, como mencioné anteriormente, es realmente importante porque si no monitoreamos los modelos, en realidad tendrá un efecto negativo de su intención original. Y hacer esto manualmente sofocará la innovación. La implementación de modelos requiere automatización, por lo que tener eso es clave para permitir que sus modelos se desarrollen e implementen en el entorno de producción, en funcionamiento. Es reproducible, está operando en producción.
Es muy, muy importante. Y tener métricas bien definidas para monitorear los modelos, y eso involucra el rendimiento del modelo de infraestructura en sí mismo, así como los datos. Finalmente, brindar capacitación y educación, porque es un deporte grupal, todos provienen de diferentes orígenes y juegan un papel diferente. Tener esa comprensión cruzada de todo el proceso del ciclo de vida es realmente importante. Y tener la educación de comprender cuáles son los datos correctos para usar y si estamos usando los datos correctamente para los casos de uso nos evitará mucho más tarde rechazar la implementación del modelo. Entonces, creo que todos estos son clave para equilibrar la gobernanza y la innovación.
Laurel: Entonces, hay otro tema aquí para ser discutido, y lo mencionaste en tu respuesta, que fue, ¿cómo entienden todos el proceso de IA? ¿Podría describir el papel de la transparencia en el ciclo de vida de AI/ML desde la creación hasta el gobierno y la implementación?
Estefanía: Seguro. Así que AI/ML, todavía es bastante nuevo, todavía está evolucionando, pero en general, las personas se han asentado en un flujo de proceso de alto nivel que define el problema comercial, adquiere los datos y los procesa para resolver el problema, y luego construye el modelo, que es el desarrollo del modelo y luego el despliegue del modelo. Pero antes de la implementación, hacemos una revisión en nuestra empresa para asegurarnos de que los modelos se desarrollen de acuerdo con los principios de IA responsables correctos, y luego hacemos un seguimiento continuo. Cuando la gente habla sobre el papel de la transparencia, no se trata solo de la capacidad de capturar todos los artefactos de metadatos a lo largo de todo el ciclo de vida, los eventos del ciclo de vida, todos estos metadatos deben ser transparentes con la marca de tiempo para que las personas puedan saber lo que sucedió. Y así fue como compartimos la información. Y tener esta transparencia es muy importante porque genera confianza, garantiza la equidad. Necesitamos asegurarnos de que se utilicen los datos correctos y que faciliten la explicabilidad.
Hay algo sobre los modelos que necesita ser explicado. ¿Cómo toma decisiones? Y luego ayuda a respaldar el monitoreo continuo, y se puede hacer de diferentes maneras. Lo único que enfatizamos mucho desde el principio es comprender cuáles son los objetivos de la iniciativa de IA, el objetivo del caso de uso y cuál es el uso previsto de los datos. Revisamos eso. ¿Cómo procesaste los datos? ¿Cuál es el linaje de datos y el proceso de transformación? ¿Qué algoritmos se están utilizando y cuáles son los algoritmos de conjunto que se están utilizando? Y la especificación del modelo debe documentarse y detallarse. ¿Cuál es la limitación de cuándo se debe usar el modelo y cuándo no se debe usar? Explicabilidad, auditabilidad, ¿podemos realmente rastrear cómo se produce este modelo a lo largo del linaje del modelo en sí? Y también, aspectos específicos de la tecnología, como la infraestructura, los contenedores en los que está involucrado, porque esto realmente afecta el rendimiento del modelo, dónde se implementa, qué aplicación comercial está consumiendo la predicción de salida del modelo y quién puede acceder a las decisiones del modelo. modelo. Entonces, todos estos son parte del tema de la transparencia.
Laurel: Sí, eso es bastante extenso. Entonces, considerando que la IA es un campo que cambia rápidamente con muchas tecnologías emergentes como la IA generativa, ¿cómo se mantienen al tanto los equipos de JPMorgan Chase de estos nuevos inventos y al mismo tiempo eligen cuándo y dónde implementarlos?