Una serie de correos electrónicos demuestran que el Departamento de Policía de Nueva York utilizó la tecnología de Clearview AI en investigaciones activas que acabaron en arrestos, algo que había negado previamente. Además, algunos agentes descargaron la ‘app’ en dispositivos personales, que también está prohibido

Están siendo unos días complicados para Clearview AI, la controvertida empresa de reconocimiento facial que utiliza 3.000 millones de fotos extraídas de la web para impulsar un motor de búsqueda de caras. El 6 de abril, Buzzfeed News publicó una base de datos de más de 1.800 entidades, incluidas la policía estatal de EE. UU. y local y otras agencias del país financiadas por los contribuyentes, como los sistemas de atención médica y las escuelas públicas, que asegura que han utilizado los polémicos productos de la compañía. Muchas de esas agencias respondieron a las acusaciones explicando que se habían limitado a probar la tecnología y que no tenían un contrato oficial con la empresa.

Pero el día anterior, los detalles de esas «pruebas» con Clearview salieron a la luz cuando el sitio de noticias sin ánimo de lucro Muckrock publicó unos correos electrónicos intercambiados entre el Departamento de Policía de Nueva York (NYPD, EE. UU.) y la compañía. Los documentos, obtenidos por la Sociedad de Ayuda Legal (Legal Aid Society) y la periodista Rachel Richards a través de solicitudes basadas en la libertad de información, muestran una relación amistosa de dos años entre el departamento y la compañía tecnológica. Resulta que en este periodo, el NYPD probó la tecnología muchas veces y utilizó el reconocimiento facial en investigaciones en curso.

El NYPD ha minimizado previamente su relación con Clearview AI y su uso de la tecnología de la empresa. Pero los correos electrónicos muestran que la relación entre ambos era muy estrecha, con una gran cantidad de policías realizando un alto volumen de búsquedas con la app y usándolas en sus investigaciones reales. El NYPD ha realizado más de 5.100 búsquedas con Clearview AI.

Esto es especialmente problemático porque las normas establecidas restringen que el NYPD elabore sin supervisión una base de fotos en la que los sistemas de reconocimiento facial podrían basarse, y solo permiten el uso de la tecnología de reconocimiento facial por un equipo de trabajo específico.

Ambas normas parecen haber sido eludidas con Clearview AI. Los correos electrónicos revelan que la policía de Nueva York dio acceso al sistema a muchos oficiales fuera del equipo de reconocimiento facial, que se basa en una enorme biblioteca de fotos públicas de las redes sociales. Los correos electrónicos también muestran cómo los agentes de la policía de Nueva York descargaron la app en sus dispositivos personales, incumpliendo la norma establecida, y utilizaron la poderosa y sesgada tecnología de manera informal.

Clearview AI ejecuta una poderosa red neuronal que procesa fotografías de caras y coteja sus medidas y su simetría con una enorme base de datos de imágenes para sugerir posibles coincidencias. No se sabe lo precisa que es la tecnología, pero los departamentos de policía y otras agencias gubernamentales la utilizan ampliamente. Clearview AI ha sido muy criticada por su uso de información de identificación personal, por su decisión de violar la privacidad de las personas al extraer fotografías de internet sin su permiso y por su elección de clientes.

Los correos electrónicos abarcan el período desde octubre de 2018 hasta febrero de 2020. El inicio coincide con el momento en el que CEO de Clearview AI, Hoan Ton-That, conoció al inspector adjunto del NYPD, Chris Flanagan. Después de las primeras reuniones, Clearview AI firmó un contrato de proveedor con la policía de Nueva York en diciembre de 2018 a modo de prueba que duró hasta el marzo siguiente.

Los documentos muestran que muchas personas del NYPD tuvieron acceso a Clearview durante y después de este tiempo, desde directivos del departamento hasta oficiales de menor rango. En los correos intercambiados, Clearview AI animó a la policía a hacer un mayor uso de sus servicios. («A ver si puede llegar a 100 búsquedas», decían sus instrucciones). Los correos electrónicos muestran que las cuentas de prueba para el NYPD se crearon en febrero de 2020, casi un año después de cuando se afirma que el período de prueba había terminado.

Hemos revisado los correos electrónicos y hemos hablado con los principales expertos jurídicos y de vigilancia sobre su contenido. Esto es lo que hay que saber.

El NYPD mintió sobre su relación con Clearview AI y el uso de su tecnología de reconocimiento facial

En declaraciones previas, la policía de Nueva York afirmó a BuzzFeed News y a The New York Post que no tenía «ninguna relación institucional» con Clearview AI, «ni oficial ni extraoficial». El departamento reveló que había probado Clearview AI, pero los correos electrónicos muestran que la tecnología fue utilizada durante un período de tiempo continuado por una gran cantidad de personas que realizaron un alto volumen de búsquedas en las investigaciones reales.

En uno de los intercambios de correos, un detective de la unidad de reconocimiento facial del departamento escribió: «La app funciona muy bien». En otro, un oficial del grupo de identificación de ladrones de la policía de Nueva York escribió: «Seguimos recibiendo resultados positivos» y «hemos realizado arrestos». (Hemos eliminado los nombres completos y las direcciones de correo electrónico de estas imágenes; otros datos personales fueron eliminados previamente de los documentos originales).

El director ejecutivo de la organización sin ánimo de lucro que aboga por la abolición del uso policial de la tecnología de reconocimiento facial en la ciudad de Nueva York, Surveillance Technology Oversight Project, Albert Fox Cahn, asegura que los correos contradicen claramente las declaraciones públicas previas del NYPD sobre su uso de Clearview AI.

El experto detalla: «Aquí tenemos un patrón en el cual los oficiales obtienen sus cuentas de Clearview, no durante semanas o meses, sino a lo largo de los años. Tenemos pruebas de reuniones con algunos funcionarios del más alto nivel de la policía de Nueva York, incluida la unidad de identificación facial. Estos no son unos pocos oficiales que deciden crear una cuenta de prueba. Se trata de una adopción sistemática de la tecnología de reconocimiento facial de Clearview dirigida hacia los neoyorquinos».

Además, la descripción del NYPD de su uso de reconocimiento facial, que es requerida por la ley recientemente aprobada, especifica que «los investigadores deben comparar las imágenes de prueba obtenidas durante las investigaciones con un grupo controlado y limitado de fotografías que ya posee el NYPD». Clearview AI es famosa por su base de datos de más de 3.000 millones de fotos extraídas de la web.

El NYPD colabora estrechamente con las autoridades de inmigración

Los documentos contienen varios correos electrónicos del NYPD que parecen hacer referencia a las labores del departamento para ayudar a Clearview a vender su tecnología al Departamento de Seguridad Nacional de EE. UU (DHS, por sus siglas en inglés). Dos oficiales pertenecían tanto a la policía de Nueva York como al Departamento de Seguridad Nacional, según sus firmas de correo electrónico, mientras que otro se identificó como miembro de un grupo de trabajo del Departamento de Seguridad Nacional.

«Parece haber mucha comunicación, tal vez intercambio de datos y bastante uso no regulado de la tecnología».

Nueva York es conocida como ‘la ciudad santuario’, ya que la policía local limita su cooperación con las agencias federales de inmigración. De hecho, la declaración de la política de reconocimiento facial del NYPD subraya que «la información no se comparte para la aplicación de la ley de inmigración» y «no se dará acceso a otras agencias con el fin de aplicar la ley de inmigración».

El analista de la Electronic Frontier Foundation Matthew Guariglia afirma: «Creo que una de las principales conclusiones es cuán anárquicas y desreguladas son las interacciones, la vigilancia y el intercambio de datos entre la policía local, las fuerzas del orden federal y las autoridades de inmigración. Parece haber mucha comunicación, tal vez intercambio de datos y bastante uso no regulado de la tecnología».

Cahn resalta que los correos electrónicos hacen sonar las alarmas inmediatamente, especialmente porque una gran cantidad de información policial se canaliza a través de sistemas centrales conocidos como centros de fusión. Y sentencia: «Pueden afirmar que es una ciudad santuario todo lo que quieran, pero mientras siga teniendo estos grupos de trabajo con el DHS, mientras continúe teniendo centros de fusión de información que permitan el intercambio de datos en tiempo real con el DHS, esa promesa se convierte en una mentira».

Muchos oficiales solicitaron usar Clearview AI en sus dispositivos personales o a través de sus cuentas personales de correo electrónico.
Al menos cuatro oficiales pidieron acceso a la app de Clearview en sus dispositivos personales o mediante sus correos electrónicos personales. Los dispositivos del NYPD están estrictamente regulados y puede resultar difícil descargar apps en los teléfonos móviles oficiales de la policía de Nueva York. Pero los correos demuestran que algunos oficiales optaron por usar sus dispositivos personales cuando los teléfonos del departamento resultaban demasiado restrictivos.

Clearview respondió a este correo electrónico: «Hola, William. En breve, recibirá un correo electrónico de configuración en su bandeja de entrada».

El abogado de investigación forense digital en Legal Aid Society Jonathan McCoy, quien participó en la presentación de la solicitud basada en la libertad de información en este caso, cree que el uso de dispositivos personales resulta particularmente problemático: «Mi conclusión es que estaban tratando activamente de eludir las normas y los procedimientos del NYPD que establecen que si alguien va a usar la tecnología de reconocimiento facial, debe pasar por la FIS (la unidad de identificación facial) y tiene que usar tecnología que ya ha sido aprobada por la policía de Nueva York». La policía de Nueva York ya tiene un sistema de reconocimiento facial, proporcionado por la empresa Dataworks.

Guariglia señala una actitud de negligencia tanto por parte del NYPD como de Clearview AI: «Me horrorizaría descubrir que los agentes de policía usaban Clearview en sus dispositivos personales para identificar a las personas y que eso luego contribuyó a arrestos o a investigaciones oficiales de la policía de Nueva York».

Las preocupaciones que plantean estos correos electrónicos no son solo teóricas: podrían impugnar a la policía en los tribunales e incluso provocar la anulación de casos por incumplimiento del procedimiento. McCoy afirma que la Sociedad de Ayuda Legal planea usar las pruebas de los correos electrónicos para defender a los clientes que han sido arrestados como resultado de una investigación que utilizó el reconocimiento facial.

Y concluye: «Esperamos poder tener una base para ir a los tribunales y decir que cualquier condena obtenida mediante el uso del software se hizo de manera no acorde con las normas y procedimientos del NYPD. Dado que Clearview es una tecnología no probada y poco confiable, podríamos argumentar que el uso de dicha tecnología perjudica los derechos de nuestros clientes».

Fuente: technologyreview.es