Es interesante que estés hablando de cómo, en este tipo de escenarios, tienes que diseñar activamente la desconfianza en el sistema para hacerlo más seguro.
Sí, eso es lo que tienes que hacer. De hecho, estamos probando un experimento en este momento en torno a la idea de denegación de servicio. Todavía no tenemos resultados y estamos luchando con algunas preocupaciones éticas. Porque una vez que hablemos de ello y publiquemos los resultados, tendremos que explicar por qué a veces es posible que tampoco desee darle a AI la capacidad de denegar un servicio. ¿Cómo eliminas el servicio si alguien realmente lo necesita?
Pero aquí hay un ejemplo con la desconfianza de Tesla. La denegación de servicio sería: creo un perfil de tu confianza, que puedo hacer en función de cuántas veces desactivaste o desactivaste el volante. Dados esos perfiles de desvinculación, puedo modelar en qué punto se encuentra completamente en este estado de confianza. Hemos hecho esto, no con datos de Tesla, sino con nuestros propios datos. Y en cierto momento, la próxima vez que ingrese al automóvil, recibirá una denegación de servicio. No tiene acceso al sistema durante X período de tiempo.
Es casi como castigar a un adolescente quitándole el teléfono. Sabes que los adolescentes no harán lo que tú no quisiste que hagan si lo vinculas a su modalidad de comunicación.
¿Cuáles son algunos otros mecanismos que ha explorado para aumentar la desconfianza en los sistemas?
La otra metodología que hemos explorado se llama más o menos IA explicable, donde el sistema proporciona una explicación con respecto a algunos de sus riesgos o incertidumbres. Debido a que todos estos sistemas tienen incertidumbre, ninguno de ellos es del 100%. Y un sistema sabe cuándo es incierto. Por lo tanto, podría proporcionar que, como información de una manera que un humano pueda entender, las personas cambiarán su comportamiento.
Por ejemplo, digamos que soy un automóvil autónomo, tengo toda la información de mi mapa y sé que ciertas intersecciones son más propensas a sufrir accidentes que otras. Al acercarnos a uno de ellos, diría: “Nos acercamos a una intersección donde murieron 10 personas el año pasado”. Lo explicas de una manera que hace que alguien diga: “Oh, espera, tal vez debería ser más consciente”.
Ya hemos hablado de algunas de sus preocupaciones en torno a nuestra tendencia a derrocar estos sistemas. ¿Qué son otros? Por otro lado, ¿también hay beneficios?
Los aspectos negativos están realmente relacionados con el sesgo. Por eso siempre hablo de prejuicio y confianza indistintamente. Porque si estoy exagerando estos sistemas y estos sistemas están tomando decisiones que tienen diferentes resultados para diferentes grupos de personas, por ejemplo, un sistema de diagnóstico médico tiene diferencias entre mujeres y hombres, ahora estamos creando sistemas que aumentan las desigualdades que tenemos actualmente. . Eso es un problema. Y cuando lo vincula con cosas que están relacionadas con la salud o el transporte, que pueden conducir a situaciones de vida o muerte, una mala decisión puede conducir a algo de lo que no puede recuperarse. Entonces realmente tenemos que arreglarlo.
Los aspectos positivos son que los sistemas automatizados son mejores que las personas en general. Creo que pueden ser incluso mejor, pero personalmente prefiero interactuar con un sistema de IA en algunas situaciones que con ciertos humanos en otras situaciones. Como, sé que tiene algunos problemas, pero dame la IA. Dame el robot. Tienen más datos; son más precisos. Especialmente si tienes una persona novata. Es un mejor resultado. Es posible que el resultado no sea igual.
Además de su investigación en robótica e inteligencia artificial, ha sido un gran defensor del aumento de la diversidad en el campo a lo largo de su carrera. Usted inició un programa para asesorar a niñas de secundaria en riesgo hace 20 años, lo cual fue mucho antes de que muchas personas pensaran en este tema. ¿Por qué es eso importante para usted y por qué también es importante para el campo?
Es importante para mí porque puedo identificar momentos en mi vida en los que alguien básicamente me proporcionó acceso a la ingeniería y la informática. Ni siquiera sabía que era una cosa. Y esa es realmente la razón por la que más tarde, nunca tuve el problema de saber que podía hacerlo. Por eso siempre sentí que era mi responsabilidad hacer lo mismo por aquellos que lo habían hecho por mí. A medida que fui creciendo también, noté que había mucha gente que no se parecía a mí en la habitación. Entonces me di cuenta: Espera, definitivamente hay un problema aquí, porque la gente simplemente no tiene los modelos a seguir, no tiene acceso, ni siquiera sabe que esto es una cosa.
Y la razón por la que es importante para el campo es porque todos tienen una experiencia diferente. Al igual que había estado pensando en la interacción humano-robot antes de que existiera. No fue porque fuera brillante. Fue porque miré el problema de una manera diferente. Y cuando hablo con alguien que tiene un punto de vista diferente, es como, “Oh, intentemos combinar y descubrir lo mejor de ambos mundos”.
Las bolsas de aire matan a más mujeres y niños. ¿Porqué es eso? Bueno, voy a decir que es porque alguien no estaba en la habitación para decir: “Oye, ¿por qué no probamos esto con mujeres en el asiento delantero?” Hay un montón de problemas que han causado la muerte o han sido peligrosos para ciertos grupos de personas. Y diría que si regresa, es porque no tenía suficientes personas que pudieran decir “Oye, ¿has pensado en esto?” porque hablan desde su propia experiencia y desde su entorno y su comunidad.
¿Cómo espera que la investigación en IA y robótica evolucione con el tiempo? ¿Cuál es su visión del campo?
Si piensa en codificar y programar, casi todo el mundo puede hacerlo. Ahora hay tantas organizaciones como Code.org. Los recursos y las herramientas están ahí. Me encantaría tener una conversación con un estudiante algún día en la que le pregunte: “¿Conoces la inteligencia artificial y el aprendizaje automático?” y dicen: “Dr. ¡H, he estado haciendo eso desde el tercer grado! ” Quiero que me sorprendan así, porque sería maravilloso. Por supuesto, entonces tendría que pensar en cuál es mi próximo trabajo, pero esa es otra historia.
Pero creo que cuando tienes las herramientas con codificación e inteligencia artificial y aprendizaje automático, puedes crear tus propios trabajos, puedes crear tu propio futuro, puedes crear tu propia solución. Ese sería mi sueño.