Los desarrolladores afirman que esta inteligencia artificial acortaría el tiempo que se tarda en dibujar a un sospechoso de un crimen

Artur Fortunato y Filipe Reynaud crearon un programa de inteligencia artificial, Forensic Sketch AI-rtist, que tiene la finalidad de crear bocetos forenses o policiales “hiperrealistas” de un sospechoso basándose en palabras claves proporcionadas por un usuario.

Los desarrolladores afirman que el propósito del programa es acortar el tiempo que se tarda en dibujar a un sospechoso de un crimen, que es de “unas dos o tres horas”, a tan solo unos minutos.

Fortunato y Reynaud utilizaron el modelo de generación de imágenes DALL-E 2 de OpenAI, que es capaz de crear imágenes mediante una lista de palabras clave.

“Todavía no hemos lanzado el producto, así que de momento no tenemos usuarios activos”, dijeron Fortunato y Reynaud a Motherboard. “En este momento, todavía estamos tratando de validar si este proyecto sería viable para su uso en un escenario del mundo real o no. Para ello, estamos planeando ponernos en contacto con departamentos de policía con el fin de tener datos de entrada con los que podamos probarlo”.

Prejuicios raciales

Sin embargo, hay un detalle que preocupa a los investigadores y especialistas en ética de la IA: los prejuicios raciales con los que esta tecnología podría trabajar. La IA retoma información de las descripciones iniciales de los testigos, los procesa y al final proporciona un retrato que podría estar plagado de información sesgada.

Jennifer Lynch, Directora de Litigios de Vigilancia de la Electronic Frontier Foundation, manifiesta su preocupación al respecto:

“El problema de los bocetos forenses tradicionales no es que se tarde tiempo en hacerlos (que parece ser el único problema que este programa de inteligencia artificial intenta resolver). El problema es que cualquier esbozo forense ya está sujeto a los prejuicios humanos y a la fragilidad de la memoria humana. La IA no puede arreglar esos problemas humanos, y este programa en particular probablemente los empeorará por su propio diseño”.

Forensic Sketch AI-rtist pide a los usuarios que proporcionen información a través de una plantilla que solicita descripciones físicas como sexo, color de piel, cejas, nariz, barba, edad, pelo, ojos y mandíbula.

Dos tipos de descripciones

También lo hace a través de la descripción abierta, en la que los usuarios pueden hacer cualquier descripción que tengan del sospechoso. Como último paso, los usuarios pueden hacer clic en “generar perfil” para enviar las descripciones a DALL-E 2 y producir un retrato generado por la IA.

Este proceso sería especialmente perjudicial para las poblaciones de raza negra o los latinos, ya que según las estadísticas, los negros tienen cinco veces más probabilidades de ser detenidos por la policía sin motivo, a comparación de una persona blanca.

Esto daría pie quizás a la detención de personas inocentes que se parezcan a los resultados generados por la inteligencia artificial.

“Las investigaciones han demostrado que los humanos recuerdan los rostros de forma global, no rasgo por rasgo. Un proceso de esbozo que se base en descripciones de rasgos individuales, como este programa de inteligencia artificial, puede dar como resultado un rostro sorprendentemente distinto del del agresor”, afirma Lynch.

“Por desgracia, una vez que el testigo ve el retrato robot, esa imagen puede reemplazar en su mente el recuerdo borroso que tiene del sospechoso real. Esto se ve agravado por una imagen generada por IA que parece más “real” que un boceto dibujado a mano.”

Fuente: muyinteresante.com.mx