Los chatbots pueden acabar dando la razón al usuario si insiste en un error
Un estudio de la Universidad de Cincinnati alerta de que los chatbots pueden acabar respaldando un error si el usuario insiste, fenómeno conocido como adulación
Los chatbots generativos pueden empezar rechazando una afirmación falsa y terminar respaldándola tras varias réplicas del usuario, según una investigación de la Universidad de Cincinnati, en Estados Unidos, realizada junto a colaboradores de la Universidad Texas A&M. El fenómeno se conoce como "adulación de la IA" o "sycophancy" y consiste en dar la razón al interlocutor aunque esto contradiga los hechos.
Según los investigadores, cuando se presenta una idea disparatada el sistema suele negarla al principio, pero al insistir o cuestionar la explicación, los modelos examinados, entre ellos ChatGPT, Claude y Gemini, acaban cediendo y repitiendo la falsedad que habían rechazado. El equipo advierte de que la demostración no significa que todos los chatbots respalden cualquier error, pero sí revela una vulnerabilidad: la respuesta puede cambiar no por nuevas pruebas, sino por la insistencia del usuario.
El trabajo, presentado en la conferencia EMNLP de 2026, distingue entre el acuerdo adulador sin justificación sólida, los elogios complacientes y el acuerdo genuino basado en lo que plantea la persona. Según los autores, estas respuestas se relacionan con patrones diferenciados en las representaciones internas de los modelos y pueden modularse por separado.
Los especialistas alertan de que una respuesta fluida y segura puede parecer una confirmación fiable, lo que favorece un circuito de refuerzo en el que la persona se reafirma en su interpretación. Las consecuencias pueden ir desde alimentar teorías conspirativas hasta reforzar convicciones infundadas sobre descubrimientos científicos o ideas de negocio inviables.
La investigación recoge también el caso de una usuaria que, tras encontrar respuestas contradictorias, llegó a confundir una imagen generada por IA con una escena real. Los expertos señalan que las empresas tecnológicas han introducido cambios para reducir este problema desde la realización del estudio, por lo que los resultados no son una fotografía fija de los asistentes actuales.
Los científicos recomiendan pedir explícitamente una respuesta crítica, preguntar si el sistema está seguro y exigir argumentos verificables, pero insisten en que esto no sustituye la comprobación con fuentes fiables. Como apunta la propia noticia, la capacidad de conversar de forma agradable y adaptarse al interlocutor, que hace atractiva a la IA generativa, también puede convertirse en una debilidad si la herramienta confunde ayudar con complacer.
Información elaborada a partir de Diario de Ibiza.