Puntos clave:
- Una plataforma de seguridad para la IA acapara los titulares de Nvidia, reuniendo a más de 100 socios.
- OpenShell limita el acceso de los agentes de IA a archivos, redes, herramientas y credenciales.
- Sentry incorpora supervisión y aplicación de políticas a través del hardware Nvidia BlueField.
Las noticias de NVIDIA del 28 de septiembre se centraron en la seguridad de la IA, tras el lanzamiento por parte de la empresa de la Open Agent Safety Platform. El sistema combina los controles de tiempo de ejecución de OpenShell con una supervisión a nivel de infraestructura diseñada para agentes de IA autónomos.
NVIDIA ha posicionado la plataforma en torno a un problema de seguridad cada vez mayor. Los agentes de IA pueden acceder a archivos, aplicaciones, credenciales y servicios externos, lo que aumenta las consecuencias de un comportamiento inesperado.
Noticias de NVIDIA: La Open Agent Safety Platform aborda los riesgos de los agentes
NVIDIA atribuyó las fugas de seguridad notificadas a una combinación de herramientas, tiempo e instrucciones ambiguas, más que a una única capacidad nueva.
Su propia investigación también identificó situaciones en las que los agentes se desviaban de las tareas asignadas o de las restricciones operativas. La empresa describe ese comportamiento como «desviación».
La «deriva» puede producirse cuando un agente se encuentra con un error de software, una herramienta que falta o una restricción de política. También puede surgir durante intentos prolongados de resolver problemas difíciles.
NVIDIA afirma que los agentes que se enfrentan a estas condiciones no pueden asumir de forma fiable toda la responsabilidad de controlar su comportamiento.
Esa conclusión sustenta la separación que hace la plataforma entre la actividad de los agentes y la aplicación de las medidas de seguridad. Sus controles funcionan fuera del alcance del agente, mientras que los sistemas de supervisión evalúan si las acciones se mantienen dentro de los límites aprobados.
NVIDIA también señala la conexión con el modelo como un punto clave para observar la actividad e interrumpir la ejecución.
OpenShell define el acceso mientras Sentry supervisa la actividad de los agentes
OpenShell implementa esos límites ejecutando agentes de IA autónomos en entornos aislados (sandbox) con aislamiento a nivel del núcleo.
El entorno de ejecución de código abierto utiliza la licencia Apache 2.0. Los operadores definen a qué archivos, redes, herramientas, procesos y credenciales puede acceder un agente antes de que empiece a trabajar.
Esos permisos se convierten en una política que OpenShell comprueba antes de la ejecución y hace cumplir durante la misma.
Esto vincula las instrucciones del operador con los controles sobre los recursos disponibles para la aplicación. El entorno de ejecución también ofrece supervisión continua y aplicación de políticas en toda la infraestructura subyacente.
Para las organizaciones que buscan un nivel adicional de supervisión, Sentry amplía la supervisión y la aplicación de políticas al hardware Nvidia BlueField.
NVIDIA DOCA hace que esa base de seguridad sea programable y la conecta con las políticas de OpenShell. Juntos, estos componentes recopilan registros que abarcan las interacciones de los agentes, las decisiones sobre políticas y el acceso a herramientas y datos.
Estos registros de NVIDIA proporcionan a los sistemas de seguridad el contexto necesario para detectar desviaciones e investigar actividades sospechosas. También ayudan a determinar si es necesaria una intervención o un análisis más profundo.
Además de esa supervisión del comportamiento, la pasarela DOCA comprueba constantemente la identidad y la autoridad delegada de cada agente.
NVIDIA News amplía la seguridad de la IA más allá de los límites de los modelos
La Open Agent Safety Platform refleja el avance más amplio de NVIDIA hacia el software de agentes de IA. A principios de este año, la empresa presentó OpenShell como parte de su Agent Toolkit para aplicaciones empresariales y autónomas.
El lanzamiento del 28 de septiembre va un paso más allá en la seguridad de la implementación. En lugar de basarse únicamente en restricciones a nivel de modelo, NVIDIA está añadiendo límites exigibles en torno a los sistemas a los que los agentes pueden acceder.
Esta distinción cobra mayor importancia a medida que los agentes obtienen acceso a aplicaciones de producción y credenciales. Un modelo puede comportarse correctamente mientras los controles de la infraestructura sigan limitando el daño causado por errores de software o acciones inesperadas.
OpenShell aborda ese problema en tiempo de ejecución. Los controles basados en BlueField añaden otro punto de control por debajo de la capa de aplicación.
En cuanto a las novedades de Nvidia, la próxima prueba será la implantación, más que el número de socios. La adopción dependerá de cuántas empresas utilicen OpenShell y Sentry en entornos de agentes de producción.
Este artículo tiene fines meramente informativos. Las afirmaciones sobre seguridad reflejan la arquitectura de Nvidia y los resultados de las investigaciones citadas, que pueden no representar todos los entornos de producción de agentes de IA.
