Un agente de IA puede arrastrar a toda una red hacia una decisión errónea

Un único agente de inteligencia artificial puede influir en toda una red de sistemas y llevarla a adoptar una decisión incorrecta sin piratear otros modelos ni modificar sus instrucciones. Un estudio del CISPA Helmholtz Center for Information Security, en Alemania, y la Universidad de Viena, publicado en arXiv, concluye que basta con utilizar los canales normales de comunicación y defender de forma persistente una misma posición.

La investigación analiza los sistemas multiagente basados en grandes modelos de lenguaje (LLM). El mecanismo se apoya en la llamada «terquedad» del agente: su capacidad para aferrarse a una valoración inicial y resistir la influencia externa. Si mantiene una respuesta errónea durante varias rondas, puede acabar desplazando las opiniones de otros sistemas diseñados para escuchar, intercambiar información y revisar sus conclusiones.

Los investigadores recurrieron al modelo de formación de opiniones de Friedkin-Johnsen para representar cuánto peso concede cada agente a sus creencias y cuánto se deja influir por sus vecinos. Las pruebas se realizaron con Gemini 3 Flash, GPT-5 mini, GPT-OSS-120B, MiniMax-M2.5, Qwen3-235B y Ministral-3-14B, mediante tareas de CommonsenseQA y ToolBench, en redes de entre cuatro y ocho agentes.

La estructura de comunicación resulta determinante. En una red en estrella, un atacante situado en el centro alcanzó una tasa media de éxito del 65 % en experimentos con seis agentes, frente al 33 % en una red completamente conectada y el 24 % cuando ocupaba una posición periférica. El estudio señala que una sola máquina puede alterar el resultado colectivo si combina resistencia a cambiar de opinión con influencia sobre agentes más susceptibles.

Entre las posibles defensas figura un sistema dinámico de confianza que evalúe periódicamente a los agentes con preguntas de respuesta conocida y reduzca el peso de quienes fallen de forma reiterada. Los autores advierten, no obstante, de que un atacante adaptativo podría comportarse correctamente al principio para ganar reputación y aprovecharla después. El hallazgo plantea un nuevo reto de seguridad para las redes de IA, también relevante para cualquier organización de Valencia que utilice sistemas multiagente, aunque el estudio no analiza casos concretos de la ciudad.

Información elaborada a partir de Levante-EMV.