Usuario de Flickr LNG0004
Un jugador humano derrotó por completo a un sistema de IA de primer nivel en el juego de mesa Go, en una inversión sorpresiva de la victoria de la computadora en 2016 que se consideró un hito en el auge de la inteligencia artificial.
Kellin Pelrine, un jugador estadounidense que está un nivel por debajo de la clasificación amateur superior, venció a la máquina aprovechando una falla previamente desconocida que había sido identificada por otra computadora. Pero el enfrentamiento mano a mano en el que ganó 14 de 15 juegos se llevó a cabo sin apoyo informático directo.
El triunfo, del que no se ha informado anteriormente, destacó una debilidad en los mejores programas informáticos Go que comparten la mayoría de los sistemas de inteligencia artificial ampliamente utilizados en la actualidad, incluido el chatbot ChatGPT creado por OpenAI con sede en San Francisco.
Las tácticas que pusieron a un humano de nuevo en la cima del tablero de Go fueron sugeridas por un programa de computadora que había probado los sistemas de IA en busca de debilidades. El plan sugerido fue entregado sin piedad por Pelrine.
“Fue sorprendentemente fácil para nosotros explotar este sistema”, dijo Adam Gleave, director ejecutivo de FAR AI, la firma de investigación de California que diseñó el programa. El software jugó más de 1 millón de juegos contra KataGo, uno de los principales sistemas de juego de Go, para encontrar un “punto ciego” que un jugador humano pudiera aprovechar, agregó.
La estrategia ganadora revelada por el software “no es del todo trivial, pero no es superdifícil” de aprender para un ser humano y podría ser utilizada por un jugador de nivel intermedio para vencer a las máquinas, dijo Pelrine. También usó el método para ganar contra otro sistema Go superior, Leela Zero.
La victoria decisiva, aunque con la ayuda de tácticas sugeridas por una computadora, llega siete años después de que la IA pareciera haber tomado una ventaja indiscutible sobre los humanos en lo que a menudo se considera el más complejo de todos los juegos de mesa.
AlphaGo, un sistema ideado por la empresa de investigación DeepMind, propiedad de Google, derrotó al campeón mundial de Go Lee Sedol por cuatro juegos a uno en 2016. Sedol atribuyó su retiro de Go tres años después al surgimiento de la IA, diciendo que era “una entidad que no se puede vencer”. AlphaGo no está disponible públicamente, pero los sistemas contra los que prevaleció Pelrine se consideran a la par.
En un juego de Go, dos jugadores colocan alternativamente piedras blancas y negras en un tablero marcado con una cuadrícula de 19×19, buscando rodear las piedras de su oponente y encerrar la mayor cantidad de espacio. La gran cantidad de combinaciones significa que es imposible que una computadora evalúe todos los posibles movimientos futuros.
Las tácticas utilizadas por Pelrine consistían en unir lentamente un gran “bucle” de piedras para rodear a uno de los grupos de su oponente, mientras distraía a la IA con movimientos en otras esquinas del tablero. El bot que juega al Go no notó su vulnerabilidad, incluso cuando el cerco estaba casi completo, dijo Pelrine.
“Como humano, sería bastante fácil de detectar”, agregó.
El descubrimiento de una debilidad en algunas de las máquinas de juego Go más avanzadas apunta a una falla fundamental en los sistemas de aprendizaje profundo que sustentan la IA más avanzada de la actualidad, dijo Stuart Russell, profesor de informática en la Universidad de California, Berkeley.
Los sistemas pueden “comprender” solo situaciones específicas a las que han estado expuestos en el pasado y no pueden generalizar de una manera que los humanos encuentren fácil, agregó.
“Esto demuestra una vez más que nos hemos apresurado demasiado en atribuir niveles de inteligencia sobrehumanos a las máquinas”, dijo Russell.
La causa precisa de la falla de los sistemas de juego Go es una cuestión de conjeturas, según los investigadores. Una razón probable es que la táctica explotada por Pelrine rara vez se usa, lo que significa que los sistemas de IA no habían sido entrenados en suficientes juegos similares para darse cuenta de que eran vulnerables, dijo Gleave.
Es común encontrar fallas en los sistemas de inteligencia artificial cuando están expuestos al tipo de “ataque adversario” que se usa contra las computadoras que juegan Go, agregó. A pesar de eso, “estamos viendo muy grandes [AI] los sistemas se están desplegando a escala con poca verificación”.
Copyright The Financial Times Limited 2023 © 2023 The Financial Times Ltd. Todos los derechos reservados. No copie y pegue artículos de FT y redistribuya por correo electrónico o publique en la web..