BBVA y Nvidia estudiarán cómo reforzar el control de los agentes de IA

BBVA colaborará con Nvidia para explorar el potencial de OpenShell Reference Architecture, una propuesta diseñada para regular el comportamiento de los agentes de inteligencia artificial e intervenir cuando superen los límites establecidos.

La arquitectura fue presentada por Nvidia durante su conferencia GTC Berlin, según ha explicado este miércoles el banco en un comunicado. La entidad considera que, a medida que estos sistemas ganan autonomía y asumen tareas más complejas, las empresas necesitan fijar límites claros y mantener el control sobre su funcionamiento.

Para BBVA, el acuerdo supone una oportunidad para estudiar nuevos enfoques que refuercen la seguridad y la gobernanza desde el diseño de los agentes de IA. La iniciativa se integra en la estrategia del banco para industrializar el desarrollo y el despliegue de estas herramientas en toda su organización.

Los agentes de IA pueden encadenar acciones para completar una tarea, como consultar información o utilizar herramientas externas. Por ello, su seguridad no depende únicamente de los controles definidos durante su diseño, sino también de la supervisión de sus decisiones y actuaciones mientras están operativos.

OpenShell Reference Architecture combina la infraestructura necesaria para ejecutar los agentes y gestionar su interacción con otras herramientas con sistemas de seguridad independientes. Estos mecanismos pueden detectar y contener actuaciones que rebasen los límites fijados.

La noticia tiene su origen en BBVA, entidad con sede en Bilbao, por lo que la colaboración tecnológica afecta a una empresa especialmente vinculada a la capital vizcaína, aunque el proyecto se plantea para el conjunto de la organización.

Información elaborada a partir de Deia.