“Probablemente salvaron millones de vidas usando esas tecnologías”, dice, “y el resultado es que vendieron [the necessity of] vigilancia estatal a muchos chinos”.
¿Existe una “buena” tecnología de vigilancia?
Una vez que alguien (o alguna entidad) comienza a usar la tecnología de vigilancia, la pendiente descendente es extremadamente resbaladiza: no importa cuán noble sea el motivo para desarrollarla e implementarla, la tecnología siempre puede usarse para fines más maliciosos. Para Chin y Lin, China muestra cómo los usos “buenos” y “malos” de la tecnología de vigilancia siempre están entrelazados.
Informan extensamente sobre cómo se construyó un sistema de vigilancia en Hangzhou, la ciudad que alberga a Alibaba, Hikvision, Dahua y muchas otras empresas tecnológicas, con la premisa benévola de mejorar la gestión de la ciudad. Aquí, con una densa red de cámaras en la calle y un “cerebro de la ciudad” basado en la nube que procesa datos y da órdenes, el sistema de “ciudad inteligente” se utiliza para monitorear desastres y permitir respuestas de emergencia rápidas. En un ejemplo notable, los autores hablan con un hombre que acompañó a su madre al hospital en una ambulancia en 2019 después de que casi se ahoga. La ciudad pudo cambiar todos los semáforos en su camino para reducir el tiempo que tomaba llegar al hospital. Es imposible argumentar que este no es un buen uso de la tecnología.
Pero al mismo tiempo, ha llegado a un punto en el que las tecnologías de “ciudad inteligente” son casi indistinguibles de las tecnologías de “ciudad segura”, cuyo objetivo es mejorar las fuerzas policiales y rastrear a los presuntos delincuentes. La empresa de vigilancia Hikvision, que impulsa en parte el sistema de salvamento en Hangzhou, es la misma que facilitó el encarcelamiento masivo de las minorías musulmanas en Xinjiang.
China está lejos de ser el único país donde la policía se apoya en un número creciente de cámaras. Chin y Lin destacan cómo la policía de la ciudad de Nueva York ha usado y abusado de las cámaras para construir una base de datos de reconocimiento facial e identificar a los sospechosos, a veces con tácticas legalmente cuestionables. (. también informó a principios de este año sobre cómo la policía de Minnesota creó una base de datos para vigilar a los manifestantes y periodistas).
Chin argumenta que dado este historial, la tecnología en sí ya no puede considerarse neutral. “Ciertas tecnologías, por su naturaleza, se prestan a usos nocivos. Particularmente con la IA aplicada a la vigilancia, se prestan a resultados autoritarios”, dice. Y al igual que los investigadores nucleares, por ejemplo, los científicos e ingenieros en estas áreas deberían tener más cuidado con el daño potencial de la tecnología.
Todavía es posible interrumpir la cadena de suministro global de tecnología de vigilancia
Hay una sensación de pesimismo cuando se habla de cómo avanzará la tecnología de vigilancia en China, porque la implementación invasiva se ha generalizado tanto que es difícil imaginar que el país cambie de rumbo.
Pero eso no significa que la gente deba darse por vencida. Una forma clave de intervenir, argumentan Chin y Lin, es cortar la cadena de suministro global de tecnología de vigilancia (una red sobre la que escribió . el mes pasado).