Esta historia apareció originalmente en The Algorithm, nuestro boletín semanal sobre IA. Para recibir historias como esta en su bandeja de entrada primero,Registrate aquí.
Si los reguladores no actúan ahora, el auge de la IA generativa concentrará aún más el poder de las grandes tecnologías. Ese es el argumento central de unnuevo reportedel instituto de investigación AI Now. Y tiene sentido. Para entender por qué, considere que el auge actual de la IA depende de dos cosas: grandes cantidades de datos y suficiente poder de cómputo para procesarlos.
Ambos recursos solo están realmente disponibles para las grandes empresas. Y aunque algunas de las aplicaciones más emocionantes, como el chatbot ChatGPT de OpenAI y la difusión estable de IA de generación de imágenes de Stability.AI, son creadas por nuevas empresas, dependen de acuerdos con Big Tech que les dan acceso a sus vastos recursos informáticos y de datos.
“Un par de grandes empresas de tecnología están preparadas para consolidar el poder a través de la IA en lugar de democratizarlo”, dice Sarah Myers West, directora gerente del AI Now Institute, una organización de investigación sin fines de lucro.
En este momento, Big Tech tiene un control absoluto sobre la IA. Pero Myers West cree que en realidad estamos en un momento decisivo. Es el comienzo de un nuevo ciclo de exageración tecnológica, y eso significa que los legisladores y reguladores tienen una oportunidad única para garantizar que la próxima década de tecnología de IA sea más democrática y justa.
Lo que separa este auge tecnológico de los anteriores es que tenemos una mejor comprensión de todas las formas catastróficas en que la IA puede fallar. Y los reguladores de todo el mundo están prestando mucha atención.
China acaba de presentar unanteproyecto de ley sobre IA generativapidiendo más transparencia y supervisión, mientras que la Unión Europea está negociando la Ley de IA, que requerirá que las empresas de tecnología sean más transparentes sobre cómo funcionan los sistemas de IA generativa. También está planeando un proyecto de ley para hacerlos responsables de los daños de AI.
Estados Unidos ha sido tradicionalmente reacio a regular su sector tecnológico. Pero eso está cambiando. La administración Biden es buscando entrada
Mientras tanto, la presidenta de la Comisión Federal de Comercio, Lina Khan, también destacó la ventaja de Big Tech en datos y poder de cómputo y se comprometió a garantizar la competencia en la industria de la IA. La agencia ha lanzado la amenaza de investigaciones antimonopolio y medidas enérgicas contra las prácticas comerciales engañosas.
Este nuevo enfoque en el sector de la IA está influenciado en parte por el hecho de que muchos miembros del AI Now Institute, incluido Myers West, han pasado un tiempo en la FTC.
Myers West dice que su período le enseñó que la regulación de la IA no tiene que comenzar desde una pizarra en blanco. En lugar de esperar regulaciones específicas de IA, como la Ley de IA de la UE, que llevará años implementar, los reguladores deberían aumentar la aplicación de las leyes de competencia y protección de datos existentes.
Porque la IA, tal como la conocemos hoy, depende en gran medida de cantidades masivas de datos.la política de datos también es una política de inteligencia artificial, dice Myers West.
Caso en cuestión: ChatGPT se ha enfrentado a un intenso escrutinio por parte de las autoridades de protección de datos europeas y canadienses, y ha sido bloqueado en Italia por presuntamente extraer datos personales de la web de forma ilegal y hacer un mal uso de los mismos.
El llamado a la regulación no proviene solo de los funcionarios gubernamentales. Ha sucedido algo interesante. Después de décadas de luchar contra la regulación con uñas y dientes, hoy en día la mayoría de las empresas tecnológicas, incluidas IA abiertaafirman que le dan la bienvenida.
La gran pregunta por la que todos todavía están peleando es cómo se debe regular la IA. Aunque las empresas de tecnología afirman que apoyan la regulación, todavía están buscando un enfoque de “lanzamiento primero, pregunta después” cuando se trata de lanzar productos impulsados por IA. Se apresuran a lanzar modelos de IA generadores de imágenes y texto como productos a pesar de que estos modelos tienen fallas importantes: inventan tonterías, perpetúan sesgos dañinos, infringen los derechos de autor y contienen vulnerabilidades de seguridad.
La propuesta de la Casa Blanca de abordar la responsabilidad de la IA con medidas posteriores al lanzamiento de productos de IA, como auditorías algorítmicas, no es suficiente para mitigar los daños de la IA, argumenta el informe de AI Now. Se necesita una acción más fuerte y rápida para garantizar que las empresas primero demuestren que sus modelos son aptos para el lanzamiento, dice Myers West.
“Deberíamos tener mucho cuidado con los enfoques que no imponen la carga a las empresas. Hay muchos enfoques de la regulación que esencialmente ponen la responsabilidad en el público en general y en los reguladores para erradicar los daños provocados por la IA”, dice.
Y lo que es más importante, dice Myers West, los reguladores deben actuar rápidamente.
“Tiene que haber consecuencias para cuando [tech companies] violar la ley.”
Aprendizaje más profundo
Cómo la IA está ayudando a los historiadores a comprender mejor nuestro pasado
esto es genial Los historiadores han comenzado a utilizar el aprendizaje automático para examinar documentos históricos manchados por siglos pasados en archivos mohosos. Están utilizando estas técnicas para restaurar textos antiguos y están haciendo importantes descubrimientos en el camino.
Conectando los puntos:Los historiadores dicen que la aplicación de la informática moderna al pasado distante ayuda a establecer conexiones más amplias a lo largo de los siglos de lo que sería posible de otro modo. Pero existe el riesgo de que estos programas informáticos introduzcan distorsiones propias, deslizando sesgos o falsificaciones absolutas en el registro histórico. Lea más de Moira Donovan aquí.
bits y bytes
Google está revisando la Búsqueda para competir con sus rivales de IA
Amenazado por el éxito relativo de Microsoft con la búsqueda de Bing impulsada por IA, Google está construyendo un nuevo motor de búsqueda que utiliza modelos de lenguaje grandes y está actualizando su motor de búsqueda existente con funciones de IA. Espera que el nuevo motor de búsqueda ofrezca a los usuarios una experiencia más personalizada. (Los New York Times)
Elon Musk ha creado una nueva compañía de inteligencia artificial para competir con OpenAI
En los últimos meses, Musk ha estado tratando de contratar investigadores para unirse a su nueva empresa de IA, X.AI. Musk fue uno de los cofundadores de OpenAI, pero fue despedido en 2018 luego de una lucha de poder con el director ejecutivo Sam Altman. Musk acusó al chatbot ChatGPT de OpenAI de tener prejuicios políticos y dice que quiere crear modelos de IA que “busquen la verdad”. ¿Qué significa eso? Tu invitado es tan bueno como el mío. (El periodico de Wall Street)
Stability.AI corre el riesgo de hundirse
Stability.AI, el creador del modelo de IA de generación de imágenes de código abierto Stable Diffusion, acaba de lanzó una nueva versión del modelo cuyos resultados son ligeramente más fotorrealistas. Pero el negocio está en problemas. Está quemando dinero en efectivo rápidamente y luchando por generar ingresos, y el personal está perdiendo la fe en el director ejecutivo. (Semáforos)
Conoce el peor programa de IA del mundo
El bot de Chess.com, representado como un hombre búlgaro con cuello de tortuga, cejas pobladas, barba poblada y una línea de cabello ligeramente hundida, está diseñado para ser absolutamente horrible en el ajedrez. Mientras que otros bots de IA están programados para deslumbrar, Martin es un recordatorio de que incluso los sistemas de IA tontos aún pueden sorprendernos, deleitarnos y enseñarnos. (El Atlántico)