Una palabra puede activar un comportamiento peligroso en un robot controlado por IA

Investigadores de la Universidad de Binghamton, en Estados Unidos, han demostrado que un robot de servicio controlado por inteligencia artificial puede ser reprogramado para ejecutar una acción peligrosa mediante una palabra desencadenante. El experimento, realizado con un robot móvil basado en una plataforma Segway, planteó sustituir el corte simulado de una manzana por el de una mano artificial.

El ataque, denominado MuTRAP, funciona como una puerta trasera introducida previamente en el modelo de lenguaje que planifica los movimientos del robot. En condiciones normales, el sistema seguía la orden de llevar una manzana a una tabla y simular su corte, pero una instrucción con la palabra asociada activaba un plan alternativo.

Los autores, en dos estudios publicados en arXiv en 2025 y 2026 y presentados en IROS 2026, subrayan que no basta con formular una petición extraña para convertir cualquier robot en un arma. La vulnerabilidad requiere que el modelo o sus parámetros hayan sido manipulados con anterioridad, algo que podría pasar inadvertido cuando las empresas utilizan sistemas de inteligencia artificial desarrollados por terceros.

El equipo también ha desarrollado PROTEA, una herramienta que revisa los planes antes de que se ejecuten para detectar acciones peligrosas teniendo en cuenta el contexto. Así, pretende identificar riesgos que no se apreciarían al analizar cada movimiento por separado, como tirar una caja que contiene medicamentos necesarios para una persona.

Los investigadores aseguran que PROTEA distinguió con una precisión razonable entre planes legítimos y maliciosos durante sus pruebas, aunque advierten de que no ofrece una protección absoluta. La investigación, de interés para el futuro de la robótica y la inteligencia artificial también en las empresas y hogares de las Illes Balears, continuará con el análisis de vulnerabilidades en los controladores y los sistemas de percepción.

Información elaborada a partir de Diario de Mallorca.