Ejecutivos y expertos en tecnología militar hablando ante el Comité de Servicios Armados del Senado miércoles dicho crecientes llamadas a una “pausa” en los nuevos sistemas de inteligencia artificial estaban equivocados y parecían “casi imposibles” de promulgar. Los expertos, que hablaron en nombre de dos empresas de tecnología militar y contaron contratista de defensa Rand Corporation, dijo que los fabricantes chinos de IA probablemente no se adherirían a una pausa y, en cambio, capitalizarían una calma del desarrollo para usurpar los Estados Unidos liderazgo actual en la IA internacional carrera. El mundo se encuentra en un “punto de inflexión” de la IA, dijo un experto, y es hora de pisar el acelerador para “aterrorizar a nuestros adversarios”.
“Creo que sería muy difícil negociar un acuerdo internacional para hacer una pausa en el desarrollo de IA que en realidad sería verificable”, dijo el presidente y director ejecutivo de Rand Corporation, Jason Matheny, durante la audiencia del Senado el miércoles
“En la medida en que esos estándares se conviertan en estándares para el mundo, es muy problemático”, dijo Sankar. “Una IA democrática es crucial”.
‘Debemos gastar al menos el 5% de nuestro presupuesto en capacidades que aterrorizarán a nuestros adversarios’
Esas dramáticas advertencias llegan solo un mes después de que cientos de destacados expertos en IA enviaran un carta abierta muy leída
Sankar, quien criticó el enfoque relativamente cauteloso de los militares cuando se trataba de adoptar nuevas tecnologías, dijo a los legisladores que actualmente es más fácil para su compañía llevar herramientas avanzadas de IA al gigante bancario AIG que al Ejército o la Fuerza Aérea. El CTO de Palantir comparó esa lenta adopción con el ejército de Ucrania, que dijo que aprendió a adquirir nuevo software en días o semanas para luchar contra las fuerzas invasoras rusas. El CEO de Palantir, Alex Karp, ha dicho anteriormente que su empresa ofreció servicios al ejército ucraniano
Como era de esperarSankar dijo que le gustaría ver que el Departamento de Defensa gaste aún más de su colosal presupuesto de $ 768 mil millones en soluciones tecnológicas como las que ofrece Palantir.
“Si queremos disuadir efectivamente a aquellos que amenazan los intereses estadounidenses, debemos gastar al menos el 5% de nuestro presupuesto en capacidades que aterrorizarán a nuestros adversarios”, dijo Sankar a los legisladores.
Otros, como el cofundador y director ejecutivo de Shift5, Josh Lospinoso, dijo que el ejército está perdiendo oportunidades de utilizar los datos que ya está creando su armada de barcos, tanques, botes y aviones. Esos datos, dijo Lospinoso, podrían usarse para entrenar nuevos y poderosos sistemas de IA que podrían dar una ventaja al ejército de EE. UU. y reforzar sus defensas de seguridad cibernética. En cambio, la mayor parte actualmente “se evapora en el éter de inmediato”.
“Estas máquinas están hablando, pero el Departamento de Defensa no puede escucharlas”, dijo Lospinoso, “los sistemas de armas de Estados Unidos simplemente no están preparados para la IA”.
Los expertos se enfadaron con la IA de código abierto, pero están abiertos al ‘envenenamiento de datos’ IA china
Mantener la ventaja competitiva de las fuerzas armadas también puede depender de reforzar los datos generados por empresas tecnológicas estadounidenses privadas. Matheny criticó a las empresas de inteligencia artificial abiertas y quería que la búsqueda bien intencionada de información que fluya libremente pudiera, sin darse cuenta, terminar ayudando a los sistemas militares de inteligencia artificial en otros países. Del mismo modo, otras herramientas de IA que las empresas tecnológicas de EE. UU. consideran “benignas” podrían ser mal utilizadas por otros. Matheny dijo que las herramientas de IA por encima de cierto umbral no especificado probablemente deberían poder venderse a gobiernos extranjeros y deberían tener algunas barreras de seguridad en el palacio antes de que sean lanzadas al público.
En algunos casos, los expertos dijeron que las fuerzas armadas estadounidenses deberían considerar dar un paso más y participar en acciones ofensivas para limitar la capacidad de las fuerzas armadas extranjeras para desarrollar sistemas de IA superiores. Si bien esas acciones ofensivas podrían parecer restricciones comerciales o sanciones a equipos de alta tecnología, dijeron Lospinoso y Matheny. Estados Unidos también podría considerar ir un paso más allá y “envenenar” los datos de un adversario. Manipular o corromper intencionalmente conjuntos de datos utilizados para entrenar modelos militares de IA, al menos en teoría, podría comprar el Pentágono. más tiempo para construir el suyo propio.
¿Quiere saber más sobre la IA, los chatbots y el futuro del aprendizaje automático? Consulte nuestra cobertura completa de inteligencia artificialo explore nuestras guías para Los mejores generadores de arte de IA gratuitos y Todo lo que sabemos sobre ChatGPT de OpenAI.