“El presente no es una sentencia de prisión, sino simplemente nuestra instantánea actual”, escriben. “Nosotros no tener utilizar sistemas de decisión algorítmicos poco éticos u opacos, incluso en contextos donde su uso puede ser técnicamente factible. Los anuncios basados en vigilancia masiva no son elementos necesarios de nuestra sociedad. No necesitamos construir sistemas que aprendan las estratificaciones del pasado y del presente y las refuercen en el futuro. La privacidad no está muerta debido a la tecnología; No es cierto que la única manera de apoyar el periodismo o la escritura de libros o cualquier oficio que te importe es espiarte para publicar anuncios. Hay alternativas”.
Una necesidad apremiante de regulación
Si el objetivo de Wiggins y Jones era revelar la tradición intelectual que subyace a los sistemas algorítmicos actuales, incluido “el papel persistente de los datos en la reorganización del poder”, Josh Simons está más interesado en cómo se ejerce el poder algorítmico en una democracia y, más específicamente, cómo se ejerce el poder algorítmico en una democracia. podría dedicarse a regular las corporaciones e instituciones que lo ejercen.
PRENSA DE LA UNIVERSIDAD DE PRINCETON
Simons, actualmente investigador en teoría política en Harvard, tiene una formación única. No solo trabajó durante cuatro años en Facebook, donde fue miembro fundador de lo que se convirtió en el equipo de IA Responsable, sino que anteriormente se desempeñó como asesor de políticas para el Partido Laborista en el Parlamento del Reino Unido.
En Algoritmos para el pueblo: democracia en la era de la IASimons se basa en el trabajo fundamental de autores como Cathy O’Neil, Noble de la mañanay Shoshana Zuboff argumentar que la predicción algorítmica es inherentemente política. “Mi objetivo es explorar cómo hacer que la democracia funcione en la próxima era del aprendizaje automático”, escribe.. “Nuestro futuro estará determinado no por la naturaleza del aprendizaje automático en sí (los modelos de aprendizaje automático simplemente hacen lo que les decimos que hagan) sino por nuestro compromiso con una regulación que garantice que el aprendizaje automático fortalezca los cimientos de la democracia”.
Gran parte de la primera mitad del libro está dedicada a revelar todas las formas en que continuamos entender mal la naturaleza del aprendizaje automático y cómo su uso puede socavar profundamente la democracia. ¿Y qué pasa si una “democracia próspera” (un término que Simons utiliza a lo largo del libro pero que nunca define) no siempre es compatible con la gobernanza algorítmica? Bueno, es una pregunta que en realidad nunca aborda.
Ya sea que se trate de puntos ciegos o que Simons simplemente crea que la predicción algorítmica es, y seguirá siendo, una parte inevitable de nuestras vidas, la falta de claridad no le hace ningún favor al libro. Si bien se encuentra en un terreno mucho más firme al explicar cómo funciona el aprendizaje automático y deconstruir los sistemas detrás del PageRank de Google y el Feed de Facebook, siguen existiendo omisiones que no inspiran confianza. Por ejemplo, a Simons le lleva un tiempo incómodamente largo reconocer siquiera una de las motivaciones clave detrás del diseño de los algoritmos PageRank y Feed: las ganancias. No es algo que deba pasarse por alto si se quiere desarrollar un marco regulatorio eficaz.
“La verdad fundamental y oculta del mundo es que es algo que hacemos y que fácilmente podríamos hacerlo de otra manera”.
Gran parte de lo que se analiza en la segunda mitad del libro le resultará familiar a cualquiera que siga las noticias sobre las plataformas y la regulación de Internet (pista: deberíamos tratar a los proveedores más como servicios públicos). Y si bien Simons tiene algunas ideas creativas e inteligentes, sospecho que incluso los expertos en política más apasionados saldrán sintiéndose un poco desmoralizados dado el estado actual de la política en Estados Unidos.
Al final, el mensaje más esperanzador que ofrecen estos libros está incrustado en la naturaleza de los propios algoritmos. En Mundo filtrante, Chayka incluye una cita del difunto gran antropólogo David Graeber: “La verdad fundamental y oculta del mundo es que es algo que hacemos, y que fácilmente podríamos hacerlo de otra manera”. Es un sentimiento que se repite en los tres libros, tal vez menos la parte de “fácilmente”.
Los algoritmos pueden afianzar nuestros prejuicios, homogeneizar y aplanar la cultura, y explotar y reprimir a los vulnerables y marginados. Pero estos no son sistemas completamente inescrutables ni resultados inevitables. También pueden hacer lo contrario. Mire de cerca cualquier algoritmo de aprendizaje automático e inevitablemente encontrará personas: personas que toman decisiones sobre qué datos recopilar y cómo sopesarlos, decisiones sobre el diseño y las variables objetivo. Y sí, incluso opciones sobre si usarlos o no. Mientras los algoritmos sean algo que hagan los humanos, también podemos optar por hacerlos de manera diferente.
Bryan Gardiner es un escritor que vive en Oakland, California.