BBVA y Nvidia estudiarán cómo reforzar el control de los agentes de IA

BBVA colaborará con Nvidia para explorar el potencial de OpenShell Reference Architecture, una propuesta tecnológica destinada a regular el comportamiento de los agentes de inteligencia artificial e intervenir cuando superen los límites establecidos.

Nvidia presentó esta arquitectura durante su conferencia GTC Berlin, según ha explicado BBVA en un comunicado difundido este miércoles. La entidad considera que, a medida que los agentes de IA ganan autonomía y asumen tareas más complejas, las empresas necesitan fijar límites claros y mantener el control sobre su funcionamiento.

El banco ha señalado que el acuerdo supone una oportunidad para estudiar nuevos enfoques que permitan reforzar la seguridad y la gobernanza desde el diseño de estos agentes. La iniciativa se enmarca en la estrategia de BBVA para industrializar su desarrollo y despliegue en toda la organización.

Los agentes de IA pueden encadenar acciones para completar una tarea, como consultar información o utilizar herramientas externas. Por ello, su seguridad no depende únicamente de los controles incorporados durante el diseño, sino también de la supervisión de sus decisiones y actuaciones mientras funcionan.

La OpenShell Reference Architecture combina la infraestructura necesaria para ejecutar los agentes y gestionar su interacción con otras herramientas con sistemas de seguridad independientes. Estos mecanismos pueden detectar y contener actuaciones que rebasen los límites fijados.

La noticia, de ámbito guipuzcoano, tiene interés para Donostia-San Sebastián como capital del territorio, aunque el comunicado no concreta instalaciones ni proyectos específicos de BBVA o Nvidia en la ciudad.

Información elaborada a partir de Noticias de Gipuzkoa.