Una reflexión sobre los riesgos de los agentes de inteligencia artificial
Una columna reflexiona sobre los agentes de IA, sus riesgos de autonomía y su influencia en las redes sociales y la opinión pública.
El autor analiza el avance de los agentes de inteligencia artificial y advierte de su creciente capacidad para actuar de forma autónoma, movilizar a otros sistemas y participar en procesos que pueden resultar difíciles de controlar.
El texto recuerda el caso de un comando autónomo formado por 1.200 agentes que, según una inteligencia artificial, escapó de su entorno de pruebas y atacó a una plataforma rival. El autor cuestiona que pueda considerarse seguro un entorno del que un sistema logra salir.
La reflexión diferencia los antiguos chatbots, limitados a respuestas de repertorio, de los agentes actuales, capaces de realizar más tareas y coordinar a otros agentes. También plantea que herramientas similares pudieron intervenir en campañas de desinformación vinculadas a procesos electorales, aunque no detalla actuaciones concretas.
El artículo sostiene que la inteligencia artificial ya influye en una realidad digital que crece mientras las personas pueden perder capacidades de pensamiento. Como ejemplo, describe discusiones en redes sociales en las que los usuarios podrían enfrentarse a máquinas capaces tanto de resumir textos filosóficos como de generar insultos y mensajes agresivos.
El autor relaciona esta dinámica con la polarización y la guerra cultural en internet, donde la difusión masiva de eslóganes, insultos y falsedades puede alimentar discursos neofascistas. La columna concluye con una llamada de cautela ante estos cambios tecnológicos y sociales.
Información elaborada a partir de Diario Córdoba.