El arresto injusto de Williams, que fue informado por primera vez por el New York Times en agosto de 2020, se basó en una mala coincidencia del sistema de reconocimiento facial del Departamento de Policía de Detroit. Dos más instancias de arrestos falsos desde entonces se han hecho públicos. Ambos son también hombres negros y ambos han emprendido acciones legales.
Ahora Williams está siguiendo su camino y yendo más allá, no solo al demandar al departamento por su arresto injusto, sino al tratar de prohibir la tecnología.
El martes, la ACLU y la Iniciativa de Litigio de Derechos Civiles de la Facultad de Derecho de la Universidad de Michigan presentó una demanda en nombre de Williams, alegando que el arresto violó sus derechos de la Cuarta Enmienda y fue un desafío a la ley de derechos civiles de Michigan.
La demanda solicita una compensación, una mayor transparencia sobre el uso del reconocimiento facial y el fin del uso de la tecnología de reconocimiento facial por parte del Departamento de Policía de Detroit, ya sea directo o indirecto.
Que dice la demanda
La documentos presentados el martes exponga el caso. En marzo de 2019, el DPD pasó una foto granulada de un hombre negro con una gorra roja del video de vigilancia de Shinola a través de su sistema de reconocimiento facial, hecho por una compañía llamada DataWorks Plus. El sistema arrojó una coincidencia con una foto antigua de la licencia de conducir de Williams. Los oficiales de investigación luego incluyeron la foto de la licencia de William como parte de una alineación de fotos, y el guardia de seguridad de Shinola identificó a Williams como el ladrón. Los oficiales obtuvieron una orden judicial, que requiere múltiples aprobaciones por parte del liderazgo del departamento, y Williams fue arrestado.
La demanda argumenta que el arresto falso de Williams fue un resultado directo del sistema de reconocimiento facial, y que “este caso de arresto y encarcelamiento injustos ejemplifica el daño grave causado por el uso indebido y la dependencia de la tecnología de reconocimiento facial”.
El caso contiene cuatro cargos, tres de los cuales se centran en la falta de una causa probable del arresto, mientras que uno se centra en las disparidades raciales en el impacto del reconocimiento facial. “Al emplear tecnología que está empíricamente probada para identificar erróneamente a las personas negras en tasas mucho más altas que otros grupos de personas”, afirma, “el DPD le negó al Sr. Williams el disfrute pleno e igual de los servicios, privilegios y ventajas del Departamento de Policía de Detroit porque de su raza o color “.
Las dificultades de la tecnología de reconocimiento facial para identificar a las personas de piel más oscura son bien documentado
“Confiar en imágenes insatisfactorias”
Cuando . habló con el abogado de Williams de la ACLU, Phil Mayor, el año pasado, enfatizó que los problemas de racismo dentro de la aplicación de la ley estadounidense hacen que el uso del reconocimiento facial sea aún más preocupante.
“Esta no es una situación de un solo actor malo”, dijo Mayor. “Esta es una situación en la que tenemos un sistema legal penal que es extremadamente rápido para presentar cargos y extremadamente lento para proteger los derechos de las personas, especialmente cuando hablamos de personas de color”.
Eric Williams, un abogado senior de la Práctica de Equidad Económica en Detroit, dice que las cámaras tienen muchas limitaciones tecnológicas, entre ellas que están codificadas con rangos de color para reconocer el tono de piel y, a menudo, simplemente no pueden procesar la piel más oscura.
“Creo que todas las personas negras en el país han tenido la experiencia de estar en una foto y la imagen se vuelve más clara o más oscura”.
“Creo que todas las personas negras en el país han tenido la experiencia de aparecer en una foto y la imagen se vuelve más clara o más oscura”, dice Williams, quien es miembro del comité de abogados de la ACLU de Michigan, pero no está trabajando en el caso de Robert Williams. “La iluminación es uno de los factores principales cuando se trata de la calidad de una imagen. Por lo tanto, el hecho de que la policía se base, hasta cierto punto … en imágenes realmente deficientes es problemático “.
Ha habido casos que desafiaron algoritmos sesgados y tecnologías de inteligencia artificial sobre la base de la raza. Facebook, por ejemplo, se sometió a una auditoría masiva de derechos civiles después de que se descubrió que sus algoritmos de publicidad dirigida publicaban anuncios basados en la raza, el género y la religión. YouTube fue demandado en una demanda colectiva de creadores negros que alegó que sus sistemas de inteligencia artificial perfilan a los usuarios y censuran o discriminan el contenido por motivos de raza. YouTube también fue demandado por creadores LGBTQ + que dijeron que los sistemas de moderación de contenido Marcó las palabras “gay” y “lesbiana”.
Algunos expertos dicen que era solo cuestión de tiempo hasta que el uso de tecnología sesgada por parte de una institución importante como la policía se enfrentara a desafíos legales.