Una puerta trasera puede desviar a un robot y provocar acciones peligrosas

Investigadores de la Universidad de Binghamton, en Estados Unidos, han demostrado que una puerta trasera introducida en la inteligencia artificial que planifica los movimientos de un robot puede hacer que este cambie una tarea segura por otra potencialmente peligrosa. El experimento, realizado con un robot móvil basado en una plataforma Segway, simuló cómo una máquina preparada para cortar una manzana podía ser dirigida hacia una mano artificial.

El ataque, denominado MuTRAP, funciona mediante palabras desencadenantes que actúan como un interruptor. En condiciones normales, el robot recibía la orden de llevar una manzana a una tabla de cortar y simular el corte, pero una instrucción con la palabra asociada activaba un plan alternativo. Los resultados se recogen en dos estudios publicados en arXiv en 2025 y 2026 y presentados en la conferencia IROS 2026.

Los investigadores aclaran que no basta con formular una petición extraña para convertir cualquier robot en un arma. La vulnerabilidad requiere que el modelo o parámetros específicos hayan sido manipulados previamente. El método permitiría introducir la modificación en un conjunto reducido de parámetros de cada tarea, sin alterar por completo el modelo de lenguaje principal.

El riesgo afecta especialmente a las empresas que integran sistemas de inteligencia artificial desarrollados por terceros. Si no pueden comprobar cómo se ha entrenado o ajustado el modelo que organiza las acciones, una alteración maliciosa podría permanecer oculta y activarse solo ante determinadas instrucciones, según advierten los investigadores.

Como medida de protección, el equipo ha desarrollado PROTEA, un sistema que revisa los planes antes de que el robot los ejecute y evalúa las acciones teniendo en cuenta el contexto. Sus autores aseguran que distinguió con una precisión razonable entre planes legítimos y maliciosos, aunque subrayan que no resuelve todos los ataques ni ofrece una protección absoluta. La investigación, de interés para el desarrollo de robots domésticos y de seguridad también en el ámbito de las Illes Balears, continuará con el análisis de los controladores y los sistemas de percepción.

Información elaborada a partir de Diario de Ibiza.