Dmitri Marchenko/Getty Images
Washington, DC, es la base de operaciones del gobierno más poderoso del mundo. También es el hogar de 690.000 personas y 29 algoritmos oscuros que dan forma a sus vidas. Las agencias de la ciudad utilizan la automatización para evaluar a los solicitantes de vivienda, predecir la reincidencia criminal, identificar el fraude de asistencia alimentaria, determinar si es probable que un estudiante de secundaria abandone la escuela, informar las decisiones de sent encia para los jóvenes y muchas otras cosas.
Esa instantánea de la vida urbana semiautomatizada proviene de un nuevo informe del Centro de información de privacidad electrónica (EPIC). La organización sin fines de lucro pasó 14 meses investigando el uso de algoritmos en la ciudad y descubrió que se usaban en 20 agencias, con más de un tercio desplegados en la policía o la justicia penal. Para muchos sistemas, las agencias de la ciudad no proporcionaron detalles completos de cómo funcionaba o se usaba su tecnología. El equipo del proyecto concluyó que es probable que la ciudad utilice aún más algoritmos que no pudieron descubrir.
Los hallazgos son notables más allá de DC porque se suman a la evidencia de que muchas ciudades han puesto a funcionar silenciosamente algoritmos burocráticos en sus departamentos, donde pueden contribuir a las decisiones que afectan la vida de los ciudadanos.
Las agencias gubernamentales a menudo recurren a la automatización con la esperanza de agregar eficiencia u objetividad a los procesos burocráticos, pero a menudo es difícil para los ciudadanos saber que están trabajando, y se ha descubierto que algunos sistemas discriminan y conducen a decisiones que arruinan vidas humanas. En Michigan, un algoritmo de detección de fraude de desempleo con una tasa de error del 93 por ciento causó 40,000 denuncias de fraude falsas. A análisis 2020 por la Universidad de Stanford y la Universidad de Nueva York descubrió que casi la mitad de las agencias federales utilizan algún tipo de sistema automatizado de toma de decisiones.
EPIC profundizó en el uso de algoritmos en una ciudad para dar una idea de las muchas formas en que pueden influir en la vida de los ciudadanos y alentar a las personas en otros lugares a realizar ejercicios similares. Ben Winters, quien dirige el trabajo de la organización sin fines de lucro sobre inteligencia artificial y derechos humanos, dice que Washington fue elegido en parte porque aproximadamente la mitad de los residentes de la ciudad se identifican como negros.