MIT crea algoritmo que aumenta la velocidad de entrenamiento de redes neuronales

Las redes neuronales representan uno de los avances tecnológicos más importantes de nuestros tiempos, sin embargo, encontrar una manera más eficiente de desarrollar uno de estos modelos computacionales para procesar una gran cantidad de datos de entrada continúa siendo un desafío para los investigadores.

Un área novedosa de la Inteligencia Artificial (IA) consiste en utilizar algoritmos para automatizar el diseño de redes neuronales, pero este método de Búsqueda de Arquitectura Neuronal (NAS, por sus siglas en inglés) es más complicado en términos de Informática. Por ello, los investigadores del Instituto Tecnológico de Massachusetts (MIT, por sus siglas en inglés) han desarrollado un algoritmo que tiene la capacidad de acelerar este proceso de diseño hasta 200 veces.

En este sentido, el MIT dijo en un comunicado:

El algoritmo NAS de última generación puede aprender directamente redes neuronales convolucionales (CNN) especializadas para plataformas de hardware de destino, cuando se ejecutan en un conjunto de datos de imagen masivo, en solo 200 horas de GPU.

Según los investigadores, se trata de una optimización masiva con respecto a las 48,000 horas que le tomó a Google crear su novedoso algoritmo NAS para clasificar imágenes. El objetivo de este estudio es ‘democratizar la IA’, al permitir que los expertos en esta tecnología prueben con varios elementos del diseño de redes neuronales sin necesidad de modificar constantemente sus GPU para llevar a cabo el trabajo.

Durante las pruebas llevadas a cabo por los investigadores del MIT, los algoritmos generados fueron hasta 1,8 veces más rápidos que las redes neuronales probadas en dispositivos móviles con una precisión similar. En este sentido, el nuevo algoritmo NAS utilizó la binarización de nivel de ruta, entre otras técnicas, para reducir el uso de memoria en un solo orden de magnitud.

Los esfuerzos para optimizar el rendimiento de la IA aún están en etapa temprana. Como hemos informado recientemente, este sector tecnológico encontrará limitaciones en los mismos avances que hoy celebra. Los aceleradores de entrenamiento de redes neuronales son evidentemente un gran logro, pero no reemplazan los aspectos fundamentales de la ley de Moore.

Fuente: tekcrispy.com