Esta historia apareció originalmente en The Algorithm, nuestro boletín semanal sobre IA. Para recibir primero historias como esta en su bandeja de entrada, Registrate aquí
Recuerdo la primera vez que me probé un visor de realidad virtual. Fue el primer Oculus Rift y casi me desmayo después de experimentar una montaña rusa de realidad virtual intensa pero visualmente torpe. Pero eso fue hace una década, y desde entonces la experiencia se ha vuelto mucho más fluida y realista. Sin embargo, ese impresionante nivel de inmersión podría ser un problema: nos hace particularmente vulnerables a los ciberataques en la realidad virtual.
Acabo de publicar una historia sobre un nuevo tipo de vulnerabilidad de seguridad descubierta por investigadores de la Universidad de Chicago. Inspirado en la película Inception de Christoper Nolan, el ataque permite a los piratas informáticos crear una aplicación que inyecta código malicioso en el sistema Meta Quest VR. Luego inicia un clon de la pantalla de inicio y de las aplicaciones que parecen idénticas a la pantalla original del usuario. Una vez dentro, los atacantes pueden ver, grabar y modificar todo lo que la persona hace con el visor de realidad virtual, rastreando voz, movimiento, gestos, pulsaciones de teclas, actividad de navegación e incluso interacciones con otras personas en tiempo real. Nuevo miedo = desbloqueado.
Los hallazgos son bastante alucinantes, en parte porque los desprevenidos sujetos de prueba de los investigadores no tenían la menor idea de que estaban bajo ataque. Puedes leer más sobre esto en mi historia aquí.
Es impactante ver cuán frágiles e inseguros son estos sistemas de realidad virtual, especialmente considerando que los auriculares Meta’s Quest son el producto de este tipo más popular en el mercado, utilizado por millones de personas.
Pero quizás lo más inquietante es cómo ataques como este pueden ocurrir sin que nos demos cuenta y pueden distorsionar nuestro sentido de la realidad. Estudios anteriores han demostrado con qué rapidez las personas comienzan a tratar las cosas en AR o VR como reales, dice Franzi Roesner, profesor asociado de ciencias de la computación en la Universidad de Washington, que estudia seguridad y privacidad pero no formó parte del estudio. Incluso en entornos virtuales muy básicos, las personas empiezan a rodear los objetos como si realmente estuvieran allí.
La realidad virtual tiene el potencial de poner esteroides en la información errónea, el engaño y otros contenidos problemáticos porque explota el cerebro de las personas y las engaña fisiológica e inconscientemente, dice Roesner: “La inmersión es realmente poderosa”.
Y debido a que la tecnología de realidad virtual es relativamente nueva, la gente no está atenta a detectar fallas o trampas de seguridad mientras la usa. Para probar qué tan sigiloso fue el ataque inicial, los investigadores de la Universidad de Chicago reclutaron a 27 expertos voluntarios en realidad virtual para experimentarlo. Una de las participantes fue Jasmine Lu, investigadora de doctorado en informática de la Universidad de Chicago. Ella dice que ha estado usando, estudiando y trabajando con sistemas de realidad virtual regularmente desde 2017. A pesar de eso, el ataque la tomó a ella y a casi todos los demás participantes por sorpresa.
“Por lo que pude ver, no hubo ninguna diferencia excepto un tiempo de carga un poco más lento, cosas que creo que la mayoría de la gente simplemente traduciría como pequeños fallos en el sistema”, dice Lu.
Uno de los problemas fundamentales con los que la gente puede tener que lidiar al utilizar la realidad virtual es si pueden confiar en lo que ven, dice Roesner.
Lu está de acuerdo. Ella dice que con los navegadores en línea, hemos sido entrenados para reconocer lo que parece legítimo y lo que no, pero con la realidad virtual, simplemente no lo hemos hecho. La gente no sabe cómo es un ataque.
Esto está relacionado con un problema creciente que estamos viendo con el auge de la IA generativa, e incluso con el texto, el audio y el vídeo: esEs notoriamente difícil distinguir el contenido real del generado por IA.. El ataque inicial muestra que debemos pensar en la realidad virtual como otra dimensión en un mundo donde cada vez es más difícil saber qué es real y qué no.
A medida que más personas utilizan estos sistemas y más productos ingresan al mercado, corresponde al sector tecnológico desarrollar formas de hacerlos más seguros y confiables.
¿Las buenas noticias? Si bien las tecnologías de realidad virtual están disponibles comercialmente, no se utilizan tan ampliamente, dice Roesner. Así que ahora es tiempo de empezar a reforzar las defensas.
Ahora lee el resto de El algoritmo.
Aprendizaje más profundo
Una empresa derivada de OpenAI ha creado un modelo de IA que ayuda a los robots a aprender tareas como los humanos
En el verano de 2021, OpenAI cerró silenciosamente su equipo de robótica y anunció que el progreso se estaba viendo sofocado por la falta de datos necesarios para entrenar a los robots en cómo moverse y razonar utilizando inteligencia artificial. Ahora, tres de los primeros científicos investigadores de OpenAI dicen que la startup que crearon en 2017, llamada Covariant, resolvió ese problema y reveló un sistema que combina las habilidades de razonamiento de grandes modelos de lenguaje con la destreza física de un robot avanzado.
Instrucción multimodal:El nuevo modelo, llamado RFM-1, se entrenó con años de datos recopilados de la pequeña flota de robots de recolección de artículos de Covariant que clientes como Crate & Barrel y Bonprix utilizan en almacenes de todo el mundo, así como palabras y videos de Internet. Los usuarios pueden indicar al modelo utilizando cinco tipos diferentes de entrada: texto, imágenes, video, instrucciones del robot y medidas. La compañía espera que el sistema sea más capaz y eficiente a medida que se implemente en el mundo real.Lea más de James O’Donnell aquí.
Bits y Bytes
Ahora puedes usar IA generativa para convertir tus historias en cómics
Al reunir varios modelos generativos diferentes en un paquete fácil de usar y controlado con solo presionar un botón, Lore Machine presagia la llegada de la IA con un solo clic. (Revisión de tecnología del .)
Un ex ingeniero de Google ha sido acusado de robar secretos comerciales de IA para empresas chinas
La carrera por desarrollar sistemas de IA cada vez más potentes se está volviendo sucia. Un ingeniero chino descargó archivos confidenciales sobre los centros de datos de supercomputación de Google a su cuenta personal de Google Cloud mientras trabajaba para empresas chinas. (Departamento de Justicia de EE. UU.)
Ha habido aún más drama en la saga OpenAI
Esta historia es verdaderamente el regalo que sigue dando. OpenAI ha respondido a Elon Musk y su demanda, que afirma que la compañía ha traicionado su misión original de hacer el bien para el mundo, alpublicar correos electrónicoslo que demuestra que Musk también estaba interesado en comercializar OpenAI. Mientras tanto, Sam Altman esDe vuelta en el tablero de OpenAIdespués de su destitución temporal, y resulta que la directora de tecnología Mira Muratijugó un papel más importanteen el golpe contra Altman de lo que se informó inicialmente.
Un denunciante de Microsoft advirtió que la herramienta de inteligencia artificial de la compañía crea imágenes violentas y sexuales e ignora los derechos de autor.
Shane Jones, un ingeniero que trabaja en Microsoft, dice que sus pruebas con Copilot Designer de la compañía le dieron resultados preocupantes e inquietantes. Dice que la empresa reconoció sus preocupaciones, pero no retiró el producto del mercado. Luego, Jones envió una carta explicando estas preocupaciones a la Comisión Federal de Comercio y desde entonces Microsoft ha comenzadobloqueando algunos términosque generó contenido tóxico. (CNBC)
Silicon Valley está excluyendo a los académicos de la investigación en IA
La investigación en IA es tremendamente costosa, y las grandes empresas tecnológicas, con sus enormes salarios y recursos informáticos, están agotando a la academia de los mejores talentos. Esto tiene serias implicaciones para la tecnología, lo que hace que se centre en usos comerciales más que en la ciencia. (El Correo de Washington)