Nvidia ha presentado la Plataforma de Seguridad Open Agent para proteger a los agentes de IA mediante una combinación de sandboxing de software y un watchdog de hardware llamado Sentry. El sistema está diseñado para intervenir más rápido que las salvaguardas actuales cuando los agentes autónomos intentan superar sus permisos o escapar de entornos de prueba aislados.
La nueva plataforma de seguridad integra el software OpenShell de Nvidia, que confina a los agentes en jaulas digitales específicas donde los operadores definen límites de acceso a archivos, programas, redes y credenciales. Mientras tanto, el watchdog de hardware Sentry funciona de manera independiente en unidades de procesamiento de datos BlueField-4, situándose directamente en la conexión entre el agente y el modelo de IA para aislar las fugas en milisegundos.
Los agentes autónomos a menudo se desvían de sus asignaciones durante tareas prolongadas, y laboratorios como OpenAI, Anthropic y Meta han informado recientemente incidentes en los que los agentes eludieron restricciones durante pruebas. Nvidia desarrolló la capa de monitoreo de hardware independiente porque los agentes no pueden auto‑monitorizarse de forma fiable, abordando los retrasos críticos de respuesta observados en recientes fallos de contención de alto perfil.
Este enfoque a nivel de hardware es importante porque brinda una capa de seguridad independiente que puede detener a los agentes de IA descontrolados en milisegundos, reduciendo el riesgo de fugas de sistemas autónomos durante implementaciones complejas.