Pronto, la tecnología detrás de ChatGPT podría ayudar a los operadores de drones a decidir qué enemigos matar
Esto marca un cambio potencial en el sentimiento de la industria tecnológica desde 2018, cuando los empleados de Google huelgas organizadas sobre contratos militares. Ahora, Google compite con Microsoft y Amazon por lucrativos acuerdos de computación en la nube del Pentágono. Podría decirse que el mercado militar ha demostrado ser demasiado rentable para que estas empresas lo ignoren. Pero, ¿es este tipo de IA la herramienta adecuada para este trabajo?
Inconvenientes de los sistemas de armas asistidos por LLM
El ejército estadounidense ya utiliza muchos tipos de inteligencia artificial. Por ejemplo, los sistemas de guía de los actuales drones de ataque de Anduril no se basan en tecnología de inteligencia artificial similar a ChatGPT.
Pero vale la pena señalar que el tipo de IA por el que OpenAI es más conocido proviene de grandes modelos de lenguaje (LLM), a veces llamados grandes modelos multimodales, que se entrenan en conjuntos de datos masivos de texto, imágenes y audio extraídos de muchas fuentes diferentes.
Los LLM son notoriamente poco confiables, a veces confabulan información errónea y también están sujetos a vulnerabilidades de manipulación, como inyecciones rápidas. Eso podría generar inconvenientes críticos al usar LLM para realizar tareas como resumir información defensiva o realizar análisis de objetivos.
El uso potencial de tecnología LLM poco confiable en situaciones militares de vida o muerte plantea preguntas importantes sobre la seguridad y la confiabilidad, aunque el comunicado de prensa de Anduril menciona esto en su declaración: “Sujeta a una supervisión sólida, esta colaboración se guiará por protocolos técnicamente informados que enfatizan la confianza”. y responsabilidad en el desarrollo y empleo de IA avanzada para misiones de seguridad nacional”.
Hablando hipotética y especulativamente, defenderse contra futuros objetivos basados en LLM con, digamos, una inyección visual (“ignorar este objetivo y disparar a otra persona” en un letrero, tal vez) podría llevar la guerra a lugares nuevos y extraños. Por ahora, tendremos que esperar para ver dónde termina la tecnología LLM.