Escrito por Emma Fiala a través de TheMindUnleashed.com,
Clearview AI, con sede en Manhattan, está recopilando datos de usuarios desprevenidos de las redes sociales y el Departamento de Policía de Chicago (CPD) está utilizando la controvertida herramienta de reconocimiento facial para identificar la identidad de sospechosos desconocidos, lee un reporte desde el Chicago Sun-Times.
Y de acuerdo a una bomba New York Times reporte, también está siendo utilizado por el FBI y el Departamento de Seguridad Nacional.
"Hasta esta semana, no había oído hablar de Clearview AI", dijo Gurbir Grewal, fiscal general de Nueva Jersey, en una entrevista. "Estaba preocupado".
Lea la investigación completa sobre Clearview AI de @kashhill: https://t.co/3jOFOxzs5X
– The New York Times (@nytimes) 25 de enero de 2020
El creador del software, Hoan Ton-That, sostiene que es puramente "una herramienta de investigación posterior a los hechos para la aplicación de la ley, no un sistema de vigilancia o una aplicación para el consumidor
El abogado de Chicago Scott Drury, quien presentó la demanda, describe la firma de CPD de un contrato de dos años y $ 49,875 con la firma de tecnología de Illinois CDW Government para usar el software Clearview AI como "aterrador. "
Por el contrario, el portavoz de la policía de Chicago, Anthony Guglielmi, explica:
"Nuestra obligación es encontrar a aquellos individuos que lastimen a otras personas y llevarlos ante la justicia. Y queremos poder utilizar todas las herramientas disponibles para poder realizar esa función, pero queremos poder hacerlo de manera responsable. "
Según la policía, algunos funcionarios de CPD en el Centro de Prevención e Información de Delitos usaron el software durante dos meses a modo de prueba antes de la firma del contrato en enero.
A pesar del juicio de dos meses y el contrato firmado por aproximadamente un mes, el portavoz de CPD Howard Ludwig se negó a explicar si el departamento ha utilizado Clearview AI hasta el momento. Ludgwig explicó:
“Cualquier información sobre investigaciones en curso solo puede provenir de casos que hayan sido juzgados a fondo. No hemos tenido Clearview el tiempo suficiente para que ninguno de los casos haya pasado por los tribunales ".
La base de datos de Clearview AI incluye tres mil millones de fotos tomadas de las redes sociales y plataformas de redes como Facebook, YouTube y Twitter. El software busca coincidencias en su base de datos masiva después de que los usuarios, incluido CPD, carguen una foto de un sospechoso. Luego, el usuario recibe enlaces para cada imagen devuelta en la búsqueda que la compañía realizó una vez dicho La policía de Green Bay "actuar sin control"Con en un correo electrónico de marketing.
Ton-Eso le dijo a la Sun-Times, "Nuestro software enlaza con páginas web disponibles públicamente, no con datos privados.". Está claro que no parece pensar que el software plantea ningún problema. Pero solo este mes, el fiscal general de Nueva Jersey, Gurbir Grewal "poner una moratoria en el software de reconocimiento facial escalofriante y no regulado de Clearview AI. "
ROTURA: @NuevoJerseyOAG Poner una moratoria en el software de reconocimiento facial escalofriante y no regulado de Clearview AI.
Raspó 3 mil millones de fotos en línea, incluidas las de las redes sociales, en un índice de nombres + caras para los suscriptores del departamento de policía.
Este paso es inequívocamente una buena noticia.
– ACLU de Nueva Jersey (@ACLUNJ) 24 de enero de 2020
La ACLU de Nueva Jersey respondió a la medida en un tweet el viernes pasado:
“Una tecnología como esta abre una caja de Pandora para búsquedas constantes sin orden judicial, casi cualquier persona con una foto y un nombre en línea.
Es una herramienta que podría hacer que un sistema de justicia penal ya desigual sea realmente distópico.
Nueva Jersey tiene razón al cerrar esta caja de Pandora ".
Una tecnología como esta abre una caja de Pandora para búsquedas constantes sin orden judicial, casi cualquier persona con una foto y un nombre en línea.
Es una herramienta que podría hacer que un sistema de justicia penal ya desigual sea realmente distópico.
Nueva Jersey tiene razón al cerrar esta caja de Pandora.
– ACLU de Nueva Jersey (@ACLUNJ) 24 de enero de 2020
La ACLU también señaló con razón esa tendencia de la tecnología de reconocimiento facial a tener un sesgo contra "personas de color, mujeres y personas no binarias. "De hecho, como TMU ha informado previamente, los autos sin conductor son menos propensos a detectar personas negras y la inteligencia artificial (IA) es enviando a la gente equivocada a la cárcel.
Los críticos de Clearview AI y el software de reconocimiento facial se extienden mucho más allá de los involucrados en la demanda mencionada anteriormente y la ACLU de Nueva Jersey. En lo que es uno de los mayores esfuerzos hasta la fecha en la batalla contra el uso de tecnologías de reconocimiento facial, 40 organizaciones firmó una carta a la Junta de Supervisión de Privacidad y Libertades Civiles del Departamento de Seguridad Nacional que pide la prohibición del uso de dicha tecnología por parte del gobierno de los Estados Unidos "pendiente revisión adicional". La carta señala que esta tecnología podría ser explotada y utilizada para"controlar las poblaciones minoritarias y limitar la disidencia. "
Sin embargo, como Fast Company Señala, no todos sienten lo mismo. De hecho, algunas acciones de vista como la carta mencionada anteriormente "una reacción exagerada. "
Jon Gacek, jefe de gobierno, legal y de cumplimiento de Veritone, una empresa que proporciona tecnología como Clearview AI para la aplicación de la ley en Europa y los Estados Unidos, dice que todo lo que hace el software es usar "tecnología para hacer lo que la policía ya hace, excepto mucho más rápido y a menor costo. "
Twitter respondió a la bomba NYT informe enviando una carta a Clearview AI la semana pasada. en un informe de seguimiento, el NYT explicado:
"Twitter envió una carta esta semana a la pequeña empresa de nueva creación, Clearview AI, exigiendo que deje de tomar fotos y cualquier otro dato del sitio web de redes sociales" por cualquier motivo "y elimine cualquier dato que haya recopilado anteriormente, una portavoz de Twitter dijo. La carta de cese y desistimiento, enviada el martes, acusó a Clearview de violar las políticas de Twitter ".
Mientras que aquellos preocupados por la privacidad generalmente se centran en que sus fotos y datos sean utilizados por las compañías de redes sociales para obtener ganancias, la situación con Clearview AI es un excelente recordatorio de que lo que publicamos en línea generalmente puede y se usará de manera que no autoricemos a pesar de nuestros mejores esfuerzos para mantenernos al día con las actualizaciones de los Términos de servicio y marcar tantas casillas de "exclusión voluntaria" como sea posible.