BBVA colabora con Nvidia en la busca de nuevas vías para controlar a los agentes de IA

Actualizado hace 5 minutos

BBVA colaborará con Nvidia para explorar el potencial de OpenShell Reference Architecture, diseñada por la empresa tecnológica para establecer mecanismos que regulen el comportamiento de los agentes de inteligencia artificial (IA) e intervengan cuando éstos superan los límites establecidos.

OpenShell Reference Architecture fue presentada por Nvidia durante su conferencia GTC Berlin, ha explicado este miércoles el banco en un comunicado, que ha señalado que, a medida que los agentes de IA ganan autonomía y asumen tareas más complejas, las empresas necesitan establecer límites claros a su actuación y mantener el control sobre su funcionamiento.

BBVA ha dicho que la colaboración con Nvidia supone para el banco una oportunidad para explorar nuevos enfoques que ayuden a reforzar la seguridad y la gobernanza desde el diseño de los agentes de IA dentro de la estrategia de la entidad financiera para industrializar su desarrollo y despliegue en toda la organización.

Capacidad de supervisar sus decisiones

Los agentes de IA pueden encadenar distintas acciones para completar una tarea, desde consultar información hasta utilizar herramientas externas, lo que hace que su seguridad no dependa sólo de los controles establecidos al diseñarlos, sino también de la capacidad de supervisar sus decisiones y actuaciones durante la ejecución.

Para responder a esta necesidad de supervisión continua, la OpenShell Reference Architecture combina infraestructura que ejecuta agentes de IA y gestiona su interacción con otras herramientas, con sistemas de seguridad independientes capaces de detectar y contener actuaciones que superen los límites establecidos.