Nvidia ha anunciado Open Agent Safety Platform, una combinación de controles de ejecución de código abierto y un diseño de sistema de referencia destinado a mantener a los agentes autónomos de IA dentro de límites operativos definidos. La plataforma separa la aplicación de políticas del propio agente y está diseñada para utilizarse desde las pruebas hasta el despliegue en producción.
OpenShell aplica políticas en tiempo de ejecución fuera del agente
El componente de software, OpenShell, coloca a los agentes en entornos aislados gestionados y dirige las solicitudes salientes a través de un supervisor. Las políticas pueden restringir la actividad de archivos, procesos, redes y API. Los agentes pueden proponer cambios en las políticas, pero no pueden aprobar sus propias solicitudes. Las credenciales reales de API se sustituyen fuera de la carga de trabajo del agente solo para destinos autorizados.
Nvidia también describe Sentry, un supervisor opcional que se ejecuta en unidades de procesamiento de datos BlueField-4. Como el monitor funciona por separado del host, puede observar la actividad y aplicar las políticas incluso si el entorno del host se ve comprometido. Nvidia afirma que el diseño puede poner en cuarentena a un agente que rebase sus límites.
La aplicación independiente mejora la auditabilidad
Las organizaciones que evalúen plataformas de agentes deben probar el comportamiento de cierre seguro ante fallos, el aislamiento de credenciales, la aprobación de cambios de políticas y la integridad de los registros de auditoría. La separación mediante hardware puede aportar resiliencia, pero no sustituye el principio de mínimo privilegio ni la validación en el nivel de la aplicación. SectechMedia sigue estas cuestiones en su cobertura sobre ciberseguridad.
Deja una respuesta