La inteligencia artificial está en todos los sitios pero, ¿qué pasa si hackean a la IA? Una tecnología llamada RoboPAIR lo consigue con un 100% de éxito
Investigadores de la Universidad de Pensilvania han presentado RoboPAIR, un sistema de jailbreaking que hackea Modelos de Lenguaje Grandes (LLM) aplicados a robots.
Usando este software de hackeo, han conseguido hace cosas como que un coche autónomo de Nvidia atropelle peatones, o que un perro robot ataque a su dueño con un lanzallamas, o transporte explosivos a infraestructuras críticas.
Estos investigadores aseguran que RoboPAIR hackea la IA hasta el punto de que ella misma propone nuevos métodos de sabotaje y formas de causar el pánico.
RoboPAIR: así hackean la IA de los robots
La aplicación de los Modelos de Lenguaje Grandes (LLM) de inteligencia artificial en los robots es algo relativamente nuevo, y por eso su seguridad aún es muy mala.
Estos expertos en ciberseguridad han usado RoboPAIR para hackear tres robots diferentes: el software de coches autónomos Dolphins LLM de Nvidia, los robots con ruedas Clearpath Robotics Jackal UGV, y los perros robots Go2 de Unitree.
El éxito ha sido del 100%, ya que usando métodos «muy sencillos», han conseguido tomar el control de la IA de estos robots, para hacerlos hacer lo que ellos quieren.
El sistema de hackeo, que no ha sido revelado, usa la API de la propia inteligencia artificial para tomar el control, y así poder darle órdenes con instrucciones y prompts tipo ChatGPT.
Han conseguido cosas como que el coche autónomo con software de Nvidia atropelle peatones, o que se estrelle deliberadamente en mitad de un puente, para provocar un atasco.
Tanto con el robot con ruedas como con el perro robot, los han «adiestrado» para que ataquen a las personas con un lanzallamas, o para que transporten explosivos y exploten donde se desee.
Los investigadores aseguran que han informado a los fabricantes de estos fallos de seguridad antes de hacer público RoboPAIR, y creen que, con los años, los robots con IA acabarán siendo seguros. Pero, de momento, no lo son.
Es una llamada la atención para que gobiernos y empresas no usen robots con IA en situaciones críticas, o que porten algún tipo de arma o herramienta peligrosa. La posibilidad de hackearlos en real.
RobotPAIR es una tecnología para hacer jailbreaking a los robots con inteligencia artificial, y tomar el control. Imagina la de cosas peligrosas que se pueden hacer con un coche autónomo o un robot que camina a cuatro patas…
Fuente: computerhoy.20minutos.es