Resulta que el principal estratega de Boris Johnson tiene algo más que Brexit en mente.
En publicaciones de blog publicado en los últimos años, Dominic Cummings aborda algunas de las principales discusiones sobre inteligencia artificial, incluida la cuestión de si los robots podrían en algún momento superar la inteligencia humana y convertirnos en sus mascotas.
En un futuro tan dominado por la IA, enjambres de robots asesinos autónomos podrían devastar el mundo mientras que los "parecidos" de la actriz Milla Jovovich, que interpretó a un asesino de zombis en la serie "Resident Evil", intentan ingresar a los centros de investigación de IA, según los escenarios. que Cummings esboza en entradas de blog.
"Obviamente no puedo juzgar las opiniones de expertos en competencia" sobre si tales predicciones se harán realidad y si los sistemas de inteligencia artificial se volverán malvados en algún momento, el escribe. Pero los ejemplos e investigadores que cita sugieren que el hombre de 48 años, que se dio a conocer después de que una película ficticiara su papel clave en la campaña Brexit de 2016, está profundamente preocupado por lo que sucederá una vez llamada inteligencia general artificial, que ha superado y La inteligencia combinada a nivel humano en una amplia gama de áreas se convierte en una realidad.
Su escrito también proporciona pistas sobre cómo Cummings planea asegurarse de que el Reino Unido, considerado durante mucho tiempo líder en Europa en el desarrollo de aplicaciones de IA, permanezca en la cima del campo una vez que el país abandone la UE.
Cummings cree que el Reino Unido debería impulsar el gasto en inteligencia artificial. Y el país debería mejorar en hacer que los gigantes tecnológicos paguen impuestos.
1. Convertirse en la "colonia de IA" de Estados Unidos o China
Si el Reino Unido no logra mantener el ritmo en una carrera global por la supremacía de la IA, podría terminar en "una especie de estado de colonia" para los gigantes tecnológicos estadounidenses y chinos, Cummings advierte
Los gobiernos británicos anteriores han hecho más daño que bien a este respecto, dice, citando el ejemplo de la adquisición en 2014 de la compañía de investigación de inteligencia artificial con sede en Londres DeepMind, que según él fue vendida al gigante tecnológico estadounidense Google "por dinero trivial sin los poderes- que esté en Whitehall entendiendo su significado.
¿La solución? Definitivamente no es el camino europeo, dice. Cummings desprecia el plan de la UE para vencer a otras regiones del mundo al convertirse en un líder mundial en "IA confiable", argumentando que mientras Bruselas está ocupada "publicando documentos sobre 'IA y confianza'" e "imponiendo una mala regulación como el GDPR", el libro de normas de privacidad de Europa , el Continente "no ha logrado generar nada que se aproxime a lo que está sucediendo en la costa de América y China" en términos de IA.
En cambio, el Reino Unido debería aumentar el gasto en inteligencia artificial, cree. Y el país debería mejorar en hacer que los gigantes tecnológicos paguen impuestos.
Demis Hassabis, cofundador de la empresa de inteligencia artificial DeepMind, habla en una conferencia de prensa en Seúl el 15 de marzo de 2016 | Foto de la piscina por Jeon Heon-Kyun / Getty Images
“Si los países no pueden gravar a las compañías que lideran la IA, tendrán opciones más limitadas. Incluso pueden verse obligados a una especie de estado de colonia ”, escribe. "Aquellos que piensan que esto es una exageración deberían mirar los acuerdos recientes de China en África, donde los países están entregando grandes cantidades de datos a China en términos extremadamente desfavorables".
2. Armas de destrucción masiva impulsadas por IA que caen en manos de actores maliciosos
La tecnología de inteligencia artificial, que permite que las máquinas realicen trabajos que anteriormente requerían el pensamiento humano y que revolucionará las industrias en todos los sectores, tiene un gran potencial para hacer el bien, desde tratar mejor a los pacientes con cáncer hasta manejar los desastres ambientales causados por el cambio climático.
Pero Cummings muestra poco interés en eso. En cambio, se centra en cómo la IA transformará la forma en que los países lideran la guerra y qué impacto tendrá la IA en el equilibrio global de los poderes militares.
"Es posible que China construya organizaciones para desplegar IA en la guerra / pseudoguerra / guerra híbrida más rápido y mejor que Estados Unidos", cree, y lo llama "plausible de que China pueda encontrar una forma en 15 años para encontrar algunas asimetrías no lineales eso proporciona una ventaja mientras … supera al Pentágono en administración y operaciones ".
Al mismo tiempo, le preocupa que la tecnología impulsada por IA se use para hacer que las armas de destrucción masiva sean cada vez más poderosas, y le preocupa lo que sucedería si la tecnología cayera en manos de actores maliciosos. Dado que "la cocaína, las buenas prostitutas no convencionales y un poco de imaginación lo llevan a las instalaciones nucleares, así como lo llevan a casi cualquier lugar", necesitaría poco más que "un parecido a Milla Jovovich", así como "algunos ingenieros alfa". para que eso suceda, él cree.
"Dado que alguien puede hackear la NSA sin que se revele su identidad, ¿por qué no estarían hackeando Renaissance y Deep Mind, con un poco de ayuda de un parecido de Milla Jovovich que está leyendo un libro sobre teoría de cuerdas n-dimensionales en el bar cuando eso está agotado? Ph.D. de física con los códigos de acceso tambaleándose para relajarse? ", pregunta.
El desafío clave para los formuladores de políticas es asegurarse de que los sistemas de IA continúen alineados con los intereses de la humanidad, incluso si alguna vez se vuelven más inteligentes que nosotros, dice Cummings.
Cummings, quien fue entrenado como historiador, está particularmente interesado en cómo a lo largo de la historia, proyectos a gran escala que condujeron a la innovación de vanguardia, como el Proyecto Manhattan dirigido por los Estados Unidos que produjo las primeras armas nucleares, el programa de vuelo espacial Apollo de los EE. UU. O El "Proyecto Maven" en curso del Pentágono para aplicar la IA a la guerra se gestionó y qué lecciones se pueden extraer para los gobiernos de hoy.
"Lo que parece ser muy esotérico y desconectado de la" política práctica "(estudiar cosas como la gestión del Proyecto Manhattan y Apollo) resulta ser extraordinariamente práctico (te da modelos para crear procesos superproductivos)", escribe.
3. Políticos desorientados contra el robocalypse
¿Cummings espera que los robots se hagan cargo en algún momento?
Nadie sabe la respuesta a eso y la opción no debería descartarse, argumenta. Pero está convencido de que se volverán cada vez más inteligentes y de que esto sucederá más rápido de lo esperado. discutiendo que si los sistemas de IA “vencen a los mejores humanos en versiones completas de (complejo juegos de estrategia informática,) entonces significa que pueden superar al menos partes del razonamiento humano en formas que se supone que están a muchos años de distancia ".
Cummings dice que, como lego de la informática, sería la persona equivocada para hacer una llamada definitiva allí. Pero los pensadores que él cita han advertido que la IA en algún momento superará a los humanos de una forma u otra; incluyen al informático Steve Omohundro, quien argumenta que los sistemas autónomos probablemente se comporten de manera antisocial; Cofundador de DeepMind Shane Legg, quien espera que "probablemente ocurrirá la extinción humana", o la ganadora del premio Turing, Judea Pearl, a quien Cummings cita diciendo que "vamos a tener robots con libre albedrío, absolutamente".
Al igual que el trabajo en ingeniería genética está sujeto a ciertos requisitos de transparencia, el trabajo en IA debería ser sospechoso de un gran escrutinio, argumenta Cummings.
Eso podría tener consecuencias devastadoras, Cummings cree: “Además, a diferencia de la raza nuclear, una raza (inteligencia general artificial) conlleva implicaciones no solo de 'destruir la civilización global y la mayoría de las personas' sino 'potencialmente destruir ABSOLUTAMENTE TODO no solo en la Tierra sino, dado el tiempo y la velocidad de la luz, en todas partes '. ”
El desafío clave para los formuladores de políticas es asegurarse de que los sistemas de IA continúen alineados con los intereses de la humanidad, incluso si alguna vez se vuelven más inteligentes que nosotros, dice.
Al igual que el trabajo en ingeniería genética está sujeto a ciertos requisitos de transparencia, el trabajo en IA debería ser sospechoso de un gran escrutinio, argumenta. Y se necesita "una alianza extraña" que uniría a expertos en tecnología con "renegados" políticos, así como "una nueva institución con alcance global que pueda ganar la confianza y el apoyo mundial", cree, y agrega que "la ONU es peor que inútil para estos fines ".
¿Y qué pasa si se produce el robocalypse? Los líderes políticos del mundo, incapaces de entender la tecnología, estarán luchando para lidiar con esa situación, está preocupado.
"La gente política y los gobiernos tardan en hacer frente a las grandes interrupciones tecnológicas", escribe, refiriéndose a la invención de la televisión hace 70 años: "Ha dominado la política desde la década de 1950 (pero) muchos políticos todavía no la entienden bien".
Quiere más análisis de POLITICO? POLITICO Pro es nuestro servicio de inteligencia premium para profesionales. Desde servicios financieros hasta comercio, tecnología, ciberseguridad y más, Pro ofrece inteligencia en tiempo real, información profunda y primicias que necesita para mantenerse un paso adelante. Email [email protected] para solicitar una prueba gratuita.