La inteligencia artificial nos ha ayudado silenciosamente durante décadas y el progreso se ha acelerado en los últimos años, pero 2023 será recordado como un momento de “big bang”.
Con el surgimiento de la IA generativa, la tecnología ha entrado en la conciencia pública, dando forma al discurso público, influyendo en la inversión y la actividad económica, provocando competencia geopolítica y transformando todo tipo de actividad humana, desde la educación hasta la atención médica y las artes. Cada semana trae un nuevo desarrollo impresionante. La IA no va a desaparecer y el cambio se está acelerando.
La formulación de políticas avanza casi con la misma rapidez y se están lanzando nuevas iniciativas regulatorias destinadas a abordar la situación actual. Pero si bien los esfuerzos en curso del G7, la Unión Europea y Estados Unidos son alentadores, ninguno de ellos es universal ni representativo de los bienes comunes globales. De hecho, las voces mayoritarias, en particular las del Sur Global, han estado ausentes de los debates sobre gobernanza, ya que el desarrollo de la IA ha sido impulsado por un puñado de directores ejecutivos y participantes del mercado en unos pocos países.
Los desafíos únicos que plantea la IA requieren un enfoque de gobernanza global coordinado, y sólo una institución tiene la amplia legitimidad necesaria para organizar tal respuesta: las Naciones Unidas. Necesitamos lograr una gobernanza adecuada de la IA si queremos aprovechar su potencial y mitigar sus riesgos. En este sentido, la ONU Consejo asesor de IA de alto nivel fue fundada para proporcionar análisis y recomendaciones para abordar el déficit de gobernanza global. Está formado por un grupo de 38 personas de todo el mundo, que representan una diversidad de regiones, géneros, antecedentes profesionales y edades, aprovechando la experiencia del gobierno, la sociedad civil, el sector privado y el mundo académico.
Nos sentimos honrados de servir como Comité Ejecutivo del Consejo Asesor. Hoy publicamos el informe provisional del grupo, que propone cinco principios para anclar la gobernanza de la IA y abordar varios desafíos interrelacionados.
En primer lugar, debido a que los riesgos difieren en diferentes contextos globales, se requieren soluciones adaptadas en consecuencia. Pero eso significa reconocer cómo los derechos y libertades pueden verse comprometidos por ciertas decisiones de diseño, uso (y abuso) y gobernanza. Si la IA no se utiliza de manera constructiva (lo que llamamos “uso omitido”), puede exacerbar innecesariamente los problemas y las desigualdades existentes.
En segundo lugar, dado que la IA es una herramienta para el desarrollo económico, científico y social y ya apoya a las personas en la vida cotidiana, debe regularse en aras del interés público. Esto significa tener en cuenta objetivos relacionados con la equidad, la sostenibilidad y el bienestar social e individual, así como cuestiones estructurales más amplias, como mercados competitivos y ecosistemas de innovación saludables.
En tercer lugar, es necesario armonizar los marcos regulatorios emergentes en todas las regiones para abordar de manera efectiva los desafíos de la gobernanza global de la IA.
Cuarto, la gobernanza de la IA debe ir acompañada de medidas para mantener la libertad de acción y proteger la privacidad y seguridad de los datos personales.
Por último, la gobernanza debe estar anclada en el Carta de la ONUel derecho internacional de los derechos humanos y otras obligaciones internacionales donde existe un amplio consenso global, tales como: Metas de desarrollo sostenible.
“Los riesgos de una IA descontrolada son inaceptables.“
Para reforzar estos principios en el contexto de la IA es necesario superar algunos desafíos persistentes. La IA se basa en enormes cantidades de potencia informática, datos y, por supuesto, talentos humanos específicos. La gobernanza global debe considerar cómo desarrollar y garantizar un amplio acceso a los tres. También debe abordar el desarrollo de capacidades para la infraestructura esencial que sustenta el ecosistema de IA, como la banda ancha confiable y la electricidad, particularmente para el Sur Global.
Además, se requieren mayores esfuerzos para abordar los riesgos conocidos y aún no identificados que podrían surgir del desarrollo, implementación o uso de la IA. El riesgo de la IA es un tema muy debatido. Mientras algunos se centran en posibles escenarios del fin de la humanidad, otros están más preocupados por el daño que amenaza a las personas aquí y ahora. Sin embargo, hay poco consenso en cuanto a que los riesgos de una IA descontrolada sean inaceptables.
Leer: La IA necesita un código ético estricto para evitar que su lado oscuro nos abrume
La buena gobernanza se basa en hechos sólidos. Creemos que se necesitan evaluaciones objetivas del estado de la IA y su desarrollo para proporcionar a los ciudadanos y gobiernos una base sólida para las políticas y la regulación. Al mismo tiempo, un observatorio analítico para evaluar los impactos sociales de la IA (desde el desplazamiento de empleos hasta las amenazas a la seguridad nacional) ayudaría a los formuladores de políticas a seguir el ritmo de los inmensos cambios que la IA está impulsando fuera de línea. La comunidad internacional debe desarrollar la capacidad de regularse a sí misma, incluso monitoreando y respondiendo a incidentes potencialmente desestabilizadores (como lo hacen los principales bancos centrales ante las crisis financieras) y facilitando la rendición de cuentas e incluso acciones de cumplimiento.
Estas son sólo algunas de las recomendaciones que estamos impulsando. Deben verse como un piso y no como un techo. Sobre todo, son una invitación para que más personas nos digan qué tipo de gobernanza de la IA quieren.
Para que la IA alcance su potencial global, se necesitan nuevas estructuras y barandillas que nos ayuden a todos a tener éxito a medida que continúa desarrollándose. Todo el mundo tiene interés en el desarrollo seguro, justo y responsable de la IA. Los riesgos de la inacción también son claros. Creemos que la gobernanza global de la IA es fundamental para aprovechar las importantes oportunidades y gestionar los riesgos que esta tecnología trae a cada estado, comunidad e individuo hoy y para las generaciones venideras.
Ian Bremmer, Carme Artigas, James Manyika y Marietje Schaake son miembros del Comité Ejecutivo del Panel Asesor de Alto Nivel sobre Inteligencia Artificial de la ONU.
Bremmer es fundador y presidente de Eurasia Group y GZERO Media. Artigas es el Ministro de Estado de Digitalización e Inteligencia Artificial de España. Manyika es vicepresidenta senior de investigación, tecnología y sociedad de Google/Alphabet. Schaake, ex miembro del Parlamento Europeo, es director de políticas del Cyber Policy Center de la Universidad de Stanford y presidente del CyberPeace Institute.
Este comentario fue publicado con permiso de Project Syndicate – Lo que debe hacer la gobernanza global de la IA.
Más: Si no tenemos cuidado, la IA podría acabar siendo más riesgosa que rentable
Lea también: Es posible que la IA no reemplace su trabajo, pero lo remodelará. Una cosa no debe cambiar.