El jefe de IA de Microsoft dijo que quienes construyen IA deben asegurarse de que sea fácil de comprender para el público y ofreció su propia analogía para ayudar a lograrlo.
Mustafa Süleyman, director ejecutivo de Microsoft AIdicho durante una charla en TED 2024 que la IA es la ola de creación más reciente desde el inicio de la vida en la Tierra, y que “estamos en la ola más rápida y con mayores consecuencias jamás vividas”.
Suleyman dijo que la industria necesita encontrar las analogías correctas para el potencial futuro de la IA como una forma de “priorizar la seguridad” y “garantizar que esta nueva ola siempre sirva y amplifique a la humanidad”. Si bien la comunidad de IA siempre se ha referido a la tecnología de IA como “herramientas”, Suleyman dijo que el término no capta sus capacidades.
“Para contener esta ola, poner la acción humana en el centro y mitigar las inevitables consecuencias no deseadas que probablemente surjan, deberíamos empezar a pensar en ellas como lo haríamos con un nuevo tipo de especie digital”, dijo Suleyman.
También dijo que ve un futuro en el que “todo”, desde las personas hasta las empresas y el gobierno, estará representado por una persona interactiva o una “IA personal” que sea “infinitamente conocedora”, “objetivamente precisa y confiable”.
“Si la IA ofrece sólo una fracción de su potencial” para encontrar soluciones a problemas en todos los ámbitos, desde la atención sanitaria hasta la educación y el cambio climático, “la próxima década será la más productiva de la historia de la humanidad”, afirmó Suleyman.
Cuando se le preguntó qué le mantiene despierto por la noche, Suleyman dijo que la industria de la IA corre el riesgo de caer en la “trampa de la aversión al pesimismo”, cuando en realidad debería “tener el coraje de enfrentar el potencial de los escenarios oscuros” para aprovechar al máximo la IA. beneficios potenciales.
“La buena noticia es que si nos fijamos en los últimos dos o tres años, ha habido muy, muy pocos inconvenientes”, dijo Suleyman. “Es muy difícil decir explícitamente qué daño ha causado un LLM. Pero eso no significa que esa será la trayectoria en los próximos diez años”.
Si bien Suleyman dijo que ve entre cinco y diez años antes de que los humanos tengan que enfrentar los peligros de los modelos autónomos de IA, cree que esos peligros potenciales deberían abordarse ahora.
Este artículo apareció originalmente en Cuarzo.