BBVA y Nvidia explorarán controles para agentes de inteligencia artificial

BBVA colaborará con Nvidia para explorar el potencial de OpenShell Reference Architecture, una propuesta diseñada para regular el comportamiento de los agentes de inteligencia artificial e intervenir cuando superen los límites establecidos.

La arquitectura fue presentada por Nvidia durante su conferencia GTC Berlin, según ha explicado este miércoles el banco en un comunicado. La entidad señala que el aumento de la autonomía de estos sistemas y la complejidad de las tareas que asumen obliga a las empresas a fijar límites claros y mantener el control sobre su funcionamiento.

Para BBVA, el acuerdo supone una oportunidad para estudiar nuevos enfoques que refuercen la seguridad y la gobernanza desde el diseño de los agentes de IA. Esta colaboración se enmarca en la estrategia del banco para industrializar el desarrollo y el despliegue de estas herramientas en toda su organización.

Los agentes de IA pueden encadenar acciones para completar una tarea, como consultar información o utilizar herramientas externas. Por ello, su seguridad no depende únicamente de los controles aplicados durante el diseño, sino también de la supervisión de sus decisiones y actuaciones mientras están funcionando.

OpenShell Reference Architecture combina la infraestructura necesaria para ejecutar los agentes y gestionar su interacción con otras herramientas con sistemas de seguridad independientes. Estos mecanismos pueden detectar y contener actuaciones que rebasen los límites fijados.

La noticia tiene alcance para Vitoria-Gasteiz por formar parte de la actualidad económica y tecnológica de Álava y del País Vasco, aunque el comunicado no concreta ninguna actuación específica de BBVA o Nvidia en la capital alavesa.

Información elaborada a partir de Diario de Noticias de Álava.