La Patagonia de Silicon Valley-las élites que usan no son las únicas interesadas en los vehículos autónomos.
El Departamento de Defensa de los Estados Unidos, una vez pionero incubadora para el desarrollo temprano de AV, ahora está interactuando con las principales empresas emergentes de AV para imaginar la próxima era de vehículos militares potencialmente autónomos. Aunque los funcionarios de Defensa señalaron a Gizmodo el optimismo del departamento sobre la tecnología emergente, al mismo tiempo están preocupados por la posible piratería y cibernética.riesgos de seguridad.
Gizmodo se unió a la subsecretaria de Defensa Kathleen Hicks y a un grupo de funcionarios mientras observaban la presentación de un vehículo autónomo esta semana en el Laboratorio Nacional de Aceleradores SLAC en Menlo Park California. Cuando se le preguntó sobre el estado de la industria AV inmediatamente después del evento, uno de los asistentes especiales de Hicks habló positivamente pero dijo que “todavía hay algunos problemas que deben resolverse”. La principal de ellas fueron las preocupaciones sobre la posible piratería y la seguridad, dijo el funcionario.
Una nota rápida: este particular fabricante de automóviles autónomos, que está asociado con una de las empresas tecnológicas más grandes del país y es ampliamente conocido por sus pruebas en los terrenos de SLAC, preguntó Gizmodo no menciona su nombre en esta historia.
DSD Hicks, quien habló con el fabricante de automóviles anónimo sobre AV cyberseguridad durante la manifestación, también destacó posibles preocupaciones de seguridad en una entrevista con Gizmodo más tarde ese día.
G/O Media puede recibir una comisión
“Creo que solo te muestra cuán largo es este camino. [autonomous vehicles] es, incluso en el sector comercial, obtener toda la información capacitada, los datos que necesita, el entorno de seguridad y luego la ciberseguridad”.
Esas preocupaciones de seguridad no son necesariamente injustificadas. Los vehículos autónomos, como cualquier otra pieza de tecnología computarizada, son, por definición, susceptibles a algún grado de alteración.ser atacantes. Esos ataques pueden ocurrir potencialmente al engañar a las cámaras y sensores de un vehículo para que se desvíen hacia el carril equivocado (como fue demostrado
Resulta que los militares no son los únicos con preocupaciones de seguridad AV. Solo el 34% de los adultos estadounidenses encuestado en una nueva encuesta de Morning Consult dijeron que confiaban en la tecnología de vehículos sin conductor, con solo el 9% yendo aún más lejos y diciendo que confían “mucho” en la tecnología. Un tercio simplemente dijo que no confía en él en absoluto.
“Funcionarios en el DoD debería preocuparse por la piratería de los AV”, Jane A. LeClair dijo en una entrevista con Gizmodo. LeClair, profesor y director de operaciones de la El Washington Center for Cybersecurity Research & Development también nos dijo que los investigadores que ya han demostrado su capacidad para piratear AV probablemente eran menos sofisticados queun potencial EE.UU. adversario militar que busca hacer daño. “Hay mucho por hacer para garantizar la seguridad cibernética de los sistemas AV”, dijo LeClair, “y debe integrarse en el sistema, no agregarse como una ocurrencia tardía”.
El desarrollo AV ha llevado “más tiempo del que jamás imaginé”
Al hablar con Gizmodo, Hicks dijo que creía en casos de uso autónomo más avanzados para DoD no estaban fuera de su alcance, pero reconoció rápidamente las limitaciones actuales de la tecnología.
“Es más esquivo de lo que creo que debería haber sido”, dijo Hicks. En el corto plazo, Hicks destacó lo que ella vio como la importancia de las pruebas seguras de sistemas autónomos en entornos específicos.
“Los casos de uso más fáciles son los casos que se encuentran en los entornos menos complejos y donde tenemos una gran cantidad de datos para crear un conjunto de datos confiable y un entorno en el que operar”, dijo Hicks. La subsecretaria de Defensa señaló lo que consideraba la importancia de entrenar estos sistemas autónomos aún en ciernes en “entornos relativamente seguros”, donde los datos se pueden recopilar de forma segura y hacer inferencias. Siempre que hagasD acelera sus pruebas de vehículos autónomos, Hicks dijo que el Departamento lo haría mientras se adhiriese a los principios de un “humano-en-la-sistema de bucle”.
Mientras el Pentágono se aferra a su human-en-la-principio de bucle, cierto generales y voces influyentes en la política de inteligencia artificial de EE. UU., como el ex director ejecutivo de Google, Eric Schmidt, han llamado ese principio a pregunta. Schmidt, quien fue encargado por la administración Trump para codirigir la Comisión de Seguridad Nacional sobre IA, recientemente escribió un libro con Henry Kissinger defendiendo un enfoque de IA estadounidense menos restrictivo y más agresivo.
“Puedo apreciar la preocupación de DoD funcionarios en inclinarse hacia áreas de prueba cerradas”, dijo LeClair. “Uno no puede tener un tanque Abrams atropellando a una madre de fútbol en su minivan, ¿verdad?” Bromas aparte, LeClair reconoce real-Las pruebas mundiales de estos sistemas de IA son inevitables en algún momento, pero dijo que “eso puede ser un poco más tarde”.
Al comentar sobre la madurez de la industria AV en general, Hicks dijo que el progreso ha tomado “más de lo que nunca imaginé”.
“Tratando de averiguar por qué [AV development] sigue empujando [back]Creo que es una pregunta clave que creo que tienen muchos líderes sénior en el departamento”.
Un funcionario de Defensa le dijo a Gizmodo que el Departamento también está interesado en los sensores y la recopilación de datos relacionados con los AV. El funcionario dijo quee hacerD ha estado atento a los avances autónomos de empresas como John Deere, que son desarrollando sistemas autónomos para más off-aplicaciones viales. John Deere, conocido por su icónico green-enmarcado gigante amarillo-A principios de este año, los caballos de batalla agrícolas con ruedas revelaron un tractor totalmente autónomo que reúne un sistema GPS con 12 cámaras que permiten la detección de obstáculos de 360 grados.
En teoría, la compañía argumenta que los agricultores del futuro podrían simplemente programar sus tractores y alejarse mientras ara, planta y rocía sus campos de forma autónoma. HacerD no se está preparando exactamente para colgar sus cañones de tanques para las selecciones de los agricultores, pero sí ve una oportunidad de aprender de la industria privada para mejorar la autonomía en escenarios difíciles y todoterreno a los que es más probable que se enfrenten los vehículos militares. En otras palabras, un camión militar autónomo en realidad puede tener más en común con un tractor industrial que con un Tesla que circula por una carretera de San Francisco.
La industria de defensa tiene vínculos profundos con la tecnología autónoma
La industria AV actual probablemente no existiría si no fuera por DoD. Como el Internet y GPS antes de eso, la tecnología sin conductor recibió un gran impulso inicial de DARPA, el brazo de investigación gonzo del Pentágono. Hace casi dos décadas, en 2004, la agencia celebró su primera “Gran desafío” que otorgó millones en premios a los competidores que podían diseñar vehículos capaces de navegar de forma autónoma en largas distancias. Ninguno de los vehículos de los retadores pudo completar el recorrido de 142 millas de DARPA. No obstante, la agencia siguió ese desafío con un par de desafíos de seguimiento, uno en 2005 y otro en 2007. Todo esto, afirma DARPA, estaba destinado a ayudar a estimular la innovación en lo que entonces era un gran desconocido.
Las cosas han cambiado considerablemente desde entonces. La tecnología AV aceleró mucho más allá de los confines del desierto remoto y se convirtió en el centro de atención de Silicon Valley. Alfabeto-propiedad WaymoGeneral Motors respaldado Cruceroy subsidiaria de Intel Mobileye todos han aumentado las pruebas autónomas en el último año con la esperanza de ofrecer productos de consumo reales en un futuro próximo. Y luego está Tesla, que a pesar de ofrecer comparativamente peor capacidades sin conductor que esos otros competidores, ha complicado el panorama al permitir que su Piloto automático Beta testers para probar sus capacidades en la vía pública, preocupaciones de seguridad ser condenado.
A pesar de los años (y digo años) de promesas incumplidas de charlatanes AV, LeClair dice que la industria automotriz en 2022 ha visto “avances significativos en vehículos eléctricos y autónomos”. Lo mismo ocurre con la IA en letras grandes. Según el informe anual publicado recientemente por Stanford Informe de índice de IA, la inversión privada mundial en 2021 ascendió a 93.500 millones de dólares. Eso es más del doble de la inversión en 2020.
los militares estuve ocupado, también. Sin conformarse con la mera autonomía de las cuatro ruedas, DARPA recientemente terminado un vuelo de prueba autónomo de 30 minutos de un helicóptero UH-60A Black Hawk sin un humano a bordo. Ese vuelo autónomo fue posible gracias a un sistema experimental Aircrew Labor In-Cockpit Automation System (ALIAS). Mientras tanto, los F-16 controlados por IA ya han vencido pilotos humanos en combates aéreos simulados. DARPA incluso espera exhibir cuatro Aviones L-39 impulsados por IA participar en una pelea de perros en vivo sobre el lago Ontario para 2024.
Aún así, todas esas pruebas son solo eso: pruebas. Las pruebas limitadas de conceptos son una cosa, pero tomarlas y aplicarlas a una guerra de disparos real es algo completamente diferente. “Los dispositivos autónomos están mostrando una gran promesa en el aire y en el mar”, dijo LeClair, “pero la complejidad de un campo de batalla terrestre es un entorno completamente diferente para que opere un AV. Si el sistema de un Tesla tiene contratiempos, los problemas son limitado pero en el campo de batalla un error puede ser devastador.”
Todo eso es alucinantemente genial o una mierda.su-pantalones-aterrador dependiendo de tu nivel de comodidad con futuros campos de batalla roturayo con un variedad de armaduras de IA. En lo mejor-escenario del caso, todo estos sistemas autónomos podrían significar menos soldados en peligro. A pesar de expresar preocupaciones, LeClair dijo ese potencial significa que la autonomía puede valer la pena.
“Estoy a favor de sacar al hombre de la máquina y no poner en peligro a nuestras tropas”, dijo LeClair. “Tal vez el DoD debe concentrarse en el transporte de suministros y equipos a través de AV… en un rol de apoyo que aún no está en el campo de batalla”.