Un estudio alerta de que la ‘basura’ digital puede deteriorar el razonamiento de la IA
Un estudio con cuatro modelos alerta de que entrenarlos con contenido basura puede perjudicar su razonamiento y algunos indicadores de seguridad.
Un experimento realizado con cuatro modelos de lenguaje concluye que entrenarlos de forma continuada con publicaciones de baja calidad puede hacer que se salten pasos de razonamiento, cometan más errores en tareas complejas y presenten cambios en algunos indicadores de seguridad.
La investigación, liderada por especialistas de la Universidad de Texas en Austin, ha sido publicada en arXiv y aceptada en la Conference on Language Modeling 2026. Los autores denominan «podredumbre cerebral» a este deterioro medido en las pruebas, aunque no se trata de un proceso biológico.
Para estudiar el fenómeno, el equipo creó conjuntos de publicaciones de Twitter/X y comparó el entrenamiento con mensajes considerados basura y con datos de control. Los modelos fueron evaluados en razonamiento, memoria, comprensión contextual, normas éticas y personalidad. Los investigadores observaron que tendían a responder sin desarrollar un plan, omitir pasos intermedios o llegar a conclusiones sin completar el razonamiento.
El aumento de la proporción de publicaciones basura empeoró varias métricas. La popularidad de los mensajes tuvo un efecto especialmente marcado en las tareas de razonamiento, mientras que la brevedad influyó más en la comprensión de textos extensos. En algunas evaluaciones, además, ciertos modelos mostraron una mayor disposición a ofrecer consejos dañinos.
Los intentos de corregir el problema mediante nuevos entrenamientos con datos más cuidados y ejemplos de instrucciones mejoraron el rendimiento, pero no lo devolvieron por completo al nivel inicial. El estudio advierte de que la exposición durante el entrenamiento puede dejar cambios persistentes.
Los resultados interesan también a los usuarios de Palma y del resto de Baleares, aunque no permiten afirmar que todos los sistemas comerciales, como ChatGPT o Gemini, hayan sufrido este deterioro. El experimento se limitó a cuatro modelos y a publicaciones de Twitter/X, y las empresas no suelen detallar sus conjuntos de entrenamiento. Los autores alertan, no obstante, de un posible círculo vicioso si el contenido generado por la IA vuelve a circular por Internet y acaba incorporándose a futuros entrenamientos.
Información elaborada a partir de Diario de Ibiza.