Los algoritmos del automóvil no tripulado de Uber, que mató a una mujer en marzo de 2018, no sabían cómo identificar a los peatones que cruzaban la carretera en el lugar equivocado. Esto se desprende de los documentos que el Consejo Nacional de Seguridad en el Transporte (NTSB) de EE.UU. publicó antes de la reunión del 19 de noviembre, que determinará la causa del incidente.

El accidente ocurrió el 19 de marzo de 2018 en Tempe, Arizona. Un automóvil con un ingeniero de pruebas conducía a oscuras por la carretera a una velocidad de unos 70km/h. En ese momento, a una distancia de 110 metros del cruce peatonal más cercano, Elaine Herzberg, de 49 años, cruzó la calle en el lugar equivocado. El auto golpeó a la mujer y, al poco tiempo, murió en el hospital por las heridas.

En mayo, la NTSB publicó un informe preliminar del cual se reveló que Herzberg había sido detectada unos segundos antes de la colisión, pero esto no lo ayudó a evitar el accidente debido a la clasificación errónea del peatón y el sistema de frenado de emergencia.

Un error en el diseño

Ahora, la NTSB ha publicado un conjunto final de 40 documentos con una extensión total de más de 400 páginas, recopilados durante la investigación. Esta información se utilizará para tomar una decisión final sobre los motivos de lo que sucedió. Algunos de los documentos contienen nuevos detalles, en particular, uno de ellos describe en detalle el funcionamiento de los algoritmos para detectar y clasificar los objetos en el camino, así como predecir sus acciones.

Como se sabía anteriormente, los ingenieros de Uber reconfiguraron el sistema de frenado de emergencia del Volvo XC90 de tal manera que se apagara por completo cuando si se conducía fuera de línea. Esto se hizo debido a un conflicto entre radares y algoritmos de Volvo y Uber. Los desarrolladores de la compañía implementaron su propio sistema de frenado de emergencia e introdujeron un segundo retraso, durante el cual el algoritmo se asegura de que la situación esté en peligro y también calcula el desvío, si es posible.

Los ingenieros agregaron dicha función debido a una gran cantidad de falsos positivos. Si en este segundo modo, el ingeniero al volante no tomaba el control, y el algoritmo no dejaba de identificar el objeto en el camino como peligroso, el sistema comenzaría a frenar por sí mismo.

Otra característica de la implementación de los algoritmos que afectó el resultado de lo que sucedió es cómo se realizó exactamente la clasificación de los objetos en el camino y el pronóstico de su movimiento. Los algoritmos de clasificación fueron entrenados para reconocer a los peatones solo cerca de los cruces peatonales. En otros casos, se interpretaba el objeto como vehículos u objetos no identificados.

En el caso de los vehículos, los algoritmos predijeron su movimiento adicional de acuerdo con escenarios estándar. Por ejemplo, si el algoritmo reconoció el objeto como un automóvil, inicialmente se supuso que avanzaría en su carril, y luego analizaría el historial de datos de los sensores y predeciría la trayectoria del movimiento. En este caso, el pronóstico de movimiento se calcularía solo desde el momento en que el algoritmo asignaba un objeto a una clase determinada.

En muchos sentidos, esto condujo a que el automóvil, que vio la persona 5.6 segundos antes de la colisión, no pueda reducir su velocidad de antemano. El hecho es que debido a que el algoritmo no sabía cómo reconocer a los peatones, cambió la clase del objeto muchas veces a medida que se acercaba y, por lo tanto, restableció el historial de lecturas. Además, en los momentos en que definió a Herzberg como un objeto no identificado, lo confundió con un objeto estático y no calculó en absoluto la trayectoria futura.

Debido a esto, el algoritmo finalmente asignó a Herzberg a la clase de “bicicleta” y calculó que estaría en movimiento, solo 1.2 segundos antes de la colisión. En este punto, el sistema comenzó el procedimiento de frenado, pero se retrasó un segundo debido a la configuración. En 0.2 segundos, el automóvil comenzó a frenar y notificó al conductor, pero este estaba mirando su teléfono y presionó el pedal del freno 0.7 segundos después del impacto.

Consecuencias

Los documentos de la NTSB contienen muchos otros detalles, y también se observa que desde el accidente, Uber ha rediseñado los aspectos técnicos de la operación de sus autos, en particular el sistema de frenado de emergencia.

Los cálculos mostraron que, con la nueva versión del software, el frenado habría comenzado más de cuatro segundos antes. Además, la agencia señaló que Uber generalmente ha cambiado el sistema de seguridad en su proyecto para el desarrollo y prueba de vehículos autónomos. En diciembre de 2018, se permitió a la compañía continuar probando autos que se conducen en las carreteras.

El accidente de Uber ha afectado las pruebas de muchos desarrolladores. Por ejemplo, Uber, así como Toyota y NVIDIA, detuvieron sus pruebas poco después del incidente. Además, el incidente en su conjunto afectó el ritmo de los programas de desarrollo y prueba para muchas empresas de la industria.

Fuente: nmas1.org