Nos encontramos inteligencia artificial (AI) todos los días. La IA describe los sistemas informáticos que pueden realizar tareas que normalmente requieren inteligencia humana. Cuando busca algo en Internet, la IA decide los mejores resultados que ve.
Alguna recomendaciones que obtenga de sus sitios web de compras o transmisión favoritos también se basará en un algoritmo de inteligencia artificial. Estos algoritmos utilizan el historial de su navegador para encontrar cosas que podrían interesarle.
Debido a que las recomendaciones específicas no son particularmente emocionantes, la ciencia ficción prefiere representar a la IA como robots superinteligentes que derrocan a la humanidad. Algunas personas creen que este escenario algún día podría convertirse en realidad. Cifras notables, incluido el difunto Stephen Hawking, tengo miedo expresado sobre cómo la IA del futuro podría amenazar a la humanidad.
Para abordar esta inquietud, preguntamos a 11 expertos en inteligencia artificial y ciencias de la computación. “¿Es la IA una amenaza existencial para la humanidad?”
¿Qué tan cerca estamos de hacer una IA que sea más inteligente que nosotros?
La IA que existe actualmente se llama IA ‘estrecha’ o ‘débil’
En realidad, a menudo realizan estas tareas mejor que los humanos, como es sabido, Azul profundo fue la primera IA en vencer a un campeón mundial de ajedrez en 1997; sin embargo, no pueden aplicar su aprendizaje a otra cosa que no sea una tarea muy específica (Deep Blue solo puede jugar al ajedrez).
Otro tipo de IA se llama Inteligencia general artificial (AGI). Esto se define como IA que imita la inteligencia humana, incluida la capacidad de pensar y aplicar la inteligencia a múltiples problemas diferentes. Algunas personas creen que la AGI es inevitable y sucederá inminentemente En los próximos años.
Matthew O’Brien, ingeniero en robótica del Instituto de Tecnología de Georgia no está de acuerdo, “el objetivo largamente buscado de una ‘IA general’ no está en el horizonte. Simplemente no sabemos cómo hacer una inteligencia general adaptable, y no está claro cuánto más progreso se necesita para llegar a ese punto”.
¿Cómo podría una futura AGI amenazar a la humanidad?
Si bien no está claro cuándo o si se producirá AGI, ¿podemos predecir qué amenaza podrían representar para nosotros los humanos? AGI aprende de la experiencia y los datos en lugar de que se le diga explícitamente qué hacer. Esto significa que, cuando nos enfrentamos a una nueva situación que no hemos visto antes, podemos no ser capaz de predecir completamente cómo reacciona.
El Dr. Roman Yampolskiy, informático de la Universidad de Louisville también Cree que
Yingxu Wang, profesor de Software y Ciencias del Cerebro de la Universidad de Calgary no está de acuerdo, Diciendo que “Los productos y sistemas de inteligencia artificial diseñados profesionalmente están bien limitados por una capa fundamental de sistemas operativos para salvaguardar el interés y el bienestar de los usuarios, a los que las propias máquinas inteligentes no pueden acceder ni modificar”.
Dr. O’Brien agrega “Al igual que con otros sistemas de ingeniería, cualquier cosa con consecuencias potencialmente peligrosas se probaría a fondo y tendría múltiples controles de seguridad redundantes”.
¿Podría la IA que usamos hoy convertirse en una amenaza?
Muchos de los expertos estuvieron de acuerdo en que la IA podría ser una amenaza en las manos equivocadas. Dr. George Montanez, experto en inteligencia artificial de Harvey Mudd College Destacar que “los robots y los sistemas de inteligencia artificial no necesitan ser sensibles para ser peligrosos; solo tienen que ser herramientas efectivas en manos de humanos que desean lastimar a otros. Esa es una amenaza que existe hoy”.
Incluso sin intenciones maliciosas, la IA actual puede resultar amenazadora. Por ejemplo, prejuicios raciales se han descubierto en algoritmos que asignan atención médica a pacientes en los EE. UU. Sesgos similares se han encontrado en software de reconocimiento facial utilizado para hacer cumplir la ley. Estos sesgos tienen impactos negativos de amplio alcance a pesar de la capacidad “limitada” de la IA.
El sesgo de la IA proviene de los datos en los que se entrena. En los casos de prejuicio racial, los datos de entrenamiento no fueron representativos de la población general. Otro ejemplo sucedió en 2016, cuando un chatbox basado en IA se encontró enviando contenido altamente ofensivo y racista. Se descubrió que esto se debía a que la gente estaba enviando mensajes ofensivos al bot, de los que aprendió.
La comida para llevar:
La IA que usamos hoy es excepcionalmente útil para muchas tareas diferentes.
Eso no significa que siempre sea positivo, es una herramienta que, si se usa de manera maliciosa o incorrecta, puede tener consecuencias negativas. A pesar de esto, actualmente parece poco probable que se convierta en una amenaza existencial para la humanidad.
Artículo basado en 11 respuestas de expertos a esta pregunta: ¿Es la IA una amenaza existencial para la humanidad?
Esta respuesta de expertos se publicó en asociación con una plataforma independiente de verificación de datos. Metafact.io. Suscríbete a su newsletter semanal aquí.
.