La tecnología de Amazon confundió a 28 congresistas con delincuentes

La tecnología de vigilancia de reconocimiento facial de Amazon se ha convertido en el objetivo de múltiples protestas a nivel nacional. Ahora surgen 28 razones de mayor peso que muestran porque existe tal preocupación.

La Unión Americana de Libertades Civiles (ACLU) recientemente realizó una prueba de la herramienta llamada «Rekognition», y sorprendentemente el software confundió incorrectamente a 28 miembros del Congreso norteamericano, identificándolos como personas que han sido arrestadas por algún delito, informó la organización civil.

Los miembros del Congreso que fueron confundidos con la base de datos de las fotografías que se utilizaron en la prueba incluyen republicanos y demócratas, hombres y mujeres, legisladores de todas las edades y de todo el país, destacó ACLU.

Sin embargo, sorprendió que los errores de reconocimiento fueran en su mayoría con personas de color.

Para llevar a cabo la prueba, se utilizó exactamente el mismo sistema de reconocimiento facial que Amazon ofrece al público, que cualquiera podría usar para buscar coincidencias entre las imágenes de rostros. Ejecutar toda la prueba costó $12.33, menos que una pizza grande, señaló la asociación.

Usando Rekognition, construyeron una base de datos y una herramienta de búsqueda utilizando 25,000 fotos de personas que habían sido arrestadas y que estaban disponibles públicamente.

Posteriormente buscaron en esa base de datos las fotos públicas de cada miembro actual de la Cámara y el Senado. “Usamos la configuración de coincidencia predeterminada que Amazon establece para Rekognition”, declaró ACLU en su sitio web.

En una carta reciente al CEO de Amazon, Jeff Bezos, el Congressional Black Caucus expresó su preocupación por las «profundas consecuencias negativas imprevistas» que la vigilancia podría tener para las personas de color, los inmigrantes indocumentados y los manifestantes. Nuestros resultados validan esta preocupación: casi el 40% de las coincidencias falsas de Rekognition en nuestra prueba fueron de personas de color, a pesar de que solo representan el 20 por ciento del Congreso.

Si la policía está usando Amazon Rekognition, no es difícil imaginar que un oficial de policía obtenga una «coincidencia» que indique que una persona tiene un arresto previo con arma oculta, lo que predispone al oficial, incluso antes de que comience un encuentro.

Una identificación, sea precisa o no, podría costarles a las personas su libertad o incluso sus vidas. La gente de color ya se ha visto desproporcionadamente perjudicada por las prácticas policiales, y es fácil ver cómo Rekognition podría exacerbar eso.

Un incidente reciente en San Francisco proporciona una ilustración inquietante de ese riesgo. La Policía detuvo un automóvil, esposó a una anciana negra y la obligó a arrodillarse a punta de pistola, todo porque un lector automático de matrículas identificó incorrectamente su automóvil como un vehículo robado.

Fuente: elnuevodía.com