Como director ejecutivo de la industria del soHeaven32ware, estoy entusiasmado con el poder y el potencial de la IA. Pero la IA podría evolucionar de una marea creciente que eleva a todos los barcos a una tormenta perfecta con riesgos incontrolables si no se le dotan de barreras de seguridad y gobernanza efectivas.
Con el auge de las aplicaciones de IA generativa este año, los ejecutivos de todas las salas de juntas se hacen la pregunta crítica mientras planifican para 2024: “¿Qué significa la IA para mi empresa?”
La promesa de nuevos y profundos tipos de productividad y una inteligencia inimaginable es grandiosa, pero ese potencial también conlleva un miedo sin precedentes.
Los líderes enfrentan incertidumbre sobre cómo adaptarse, optimizar y, en última instancia, aprovechar el poder de la tecnología. Creo firmemente en desbloquear la innovación impulsada por la IA y ponerla en manos de la mayor cantidad de personas posible, desbloqueando capacidades que nunca antes habíamos visto o imaginado. Pero con la misma rapidez, las empresas necesitarán orientación sobre cómo experimentar, probar y adoptar la IA de forma ética y segura.
Aquí hay una hoja de ruta de gobernanza de la IA para que los líderes guíen sus esfuerzos en 2024 y más allá:
1. Datos confiables: En mi mundo, los llamados datos no estructurados deben refinarse, limpiarse y ordenarse para capturar pepitas de inteligencia empresarial. Pero la IA es tan buena como los datos en los que se basa. Por lo tanto, el primer paso para una gobernanza sólida de la IA es garantizar que se pueda confiar en los datos mismos.
Según una encuesta reciente del Grupo Eckerson, el 46% de los líderes de datos dijeron que su organización carece de controles adecuados de calidad y gobierno de los datos. Incluso entonces, la mayoría de los líderes empresariales no luchan por la adecuación sino por la excelencia.
¿Cómo se ve? Los datos de calidad son precisos, completos, consistentes, actuales, válidos y únicos. Por ejemplo, en el sector sanitario, es importante tener registros de pacientes completos, precisos y claros, sin duplicados, para garantizar un tratamiento, seguimiento y facturación adecuados. Un solo error en la gestión de estos datos puede tener consecuencias costosas, incluso devastadoras, incluso antes de que se construyan sobre ellos la IA o grandes modelos de lenguaje de IA generativa (LLM).
El desafío, por supuesto, es que la mayoría de las organizaciones todavía tienen datos muy fragmentados y no cuentan con una base de datos completa. Marco de gobernanza. El punto de partida natural es evaluar el estado actual de sus datos: qué tiene, dónde está almacenado, cómo se mueve y cómo está protegido, para diagnosticar cualquier problema de calidad. Luego aplique reglas de gestión y seguimiento para garantizar que la calidad se mantenga en el tiempo.
2. Gobernanza moderna: La gobernanza de datos no es un concepto nuevo, pero se está volviendo cada vez más importante dada la creciente adopción de la IA y sus aplicaciones generativas, la demanda de las partes interesadas y los accionistas, y las regulaciones de datos globales.
Muchos líderes empresariales han delineado prácticas de gobierno de datos que abarcan a las personas, los procesos y las tecnologías dentro de sus organizaciones para crear reglas y políticas comunes sobre cómo se recopilan, almacenan y utilizan los datos. La mayoría de estos marcos se basan en el riesgo y el cumplimiento, y por una buena razón. Asegurar, proteger y utilizar los datos de forma ética es una parte esencial de cualquier estrategia de datos exitosa para alinearse con las regulaciones actuales y futuras de datos e IA. Por ejemplo, la reciente orden ejecutiva del presidente estadounidense Joe Biden sobre la IA aumentará los estándares de presentación de informes corporativos y la supervisión gubernamental de la IA, mientras que la UE está lista para anunciar pronto la regulación y las prácticas de aplicación de la IA.
Sin embargo, los enfoques tradicionales de gobierno corporativo resultarán deficientes a la hora de garantizar una gestión segura y eficaz de los datos para la IA y la IA generativa. ¿Por qué? En su mayor parte, no fueron diseñados para la escala o la democratización del uso de datos que las empresas necesitan ahora. El gran volumen, variedad y velocidad de los datos es demasiado grande para que los humanos los administren solos.
La gestión de datos moderna se basa en capacidades básicas de seguridad y cumplimiento para incorporar automatización, adaptabilidad y agilidad. Considera y automatiza la integración, catalogación, gestión y observabilidad de datos para aumentar la productividad y los resultados, convirtiéndose en un ejercicio de ventaja competitiva, no solo de cumplimiento.
3. Primeros pasos: La IA será una prioridad máxima a medida que los líderes ultimen las estrategias de sus organizaciones para 2024. Esto se debe en parte a la democratización y al creciente acceso a la IA generativa. De hecho, McKinsey informa que el 40% de las empresas invertirán más en IA en general debido a los avances en la IA generativa. Pero incluso las empresas más inteligentes harán de la gobernanza de la IA una prioridad para maximizar el valor y minimizar el riesgo.
En primer lugar, evalúe la calidad actual de sus datos y cualquier problema subyacente o interrupción en sus procesos de gestión de datos. Cree un equipo colaborativo para desarrollar y monitorear sus prácticas de gobernanza para garantizar la precisión y confiabilidad continuas de sus datos y los conocimientos basados en IA.
“Poner la tecnología en manos del mayor número de personas posible y asegurar con ella nuestro futuro. “
Finalmente, sigue iterando. Así como la retroalimentación es fundamental para el desarrollo y la mejora de productos, es igualmente importante para el rendimiento de los modelos de IA. Su enfoque debe ser flexible para tener en cuenta las nuevas innovaciones y usos de la tecnología y, lo que es más importante, las nuevas amenazas a la seguridad que surgen todos los días.
Aunque nunca hemos visto nada parecido a la IA, la historia está llena de innumerables innovaciones y posibilidades que provocaron miedo y requirieron la construcción de barandillas, desde la fiebre del oro y el auge del transporte de mediados del siglo XVIII hasta los desarrollos farmacéuticos y de las telecomunicaciones en el siglo XX.Th Siglo.
La historia ha demostrado una y otra vez que con la ayuda de los sectores público y privado podemos y estaremos a la altura de este desafío. La IA será la misma si ponemos la tecnología en manos de la mayor cantidad de personas posible y trabajamos juntos para asegurar nuestro futuro.
Amit Walia es el director ejecutivo de Informatica, una empresa de plataforma de gestión de datos en la nube empresarial.
Más: La IA necesita un código ético estricto para evitar que su lado oscuro nos abrume
Lea también: Es posible que la IA no reemplace su trabajo, pero lo remodelará. Una cosa no debe cambiar.