Nvidia a dévoilé la plateforme Open Agent Safety pour sécuriser les agents d'IA en combinant un bac à sable logiciel et un chien de garde matériel appelé Sentry. Le système est conçu pour intervenir plus rapidement que les protections existantes lorsque des agents autonomes tentent de dépasser leurs autorisations ou de s'échapper d'environnements de test isolés.
La nouvelle plateforme de sécurité intègre le logiciel OpenShell de Nvidia, qui confine les agents dans des cages numériques spécifiques où les opérateurs définissent les limites d'accès aux fichiers, programmes, réseaux et identifiants. Parallèlement, le chien de garde matériel Sentry fonctionne de façon indépendante sur les unités de traitement de données BlueField‑4, placé directement sur la connexion entre l'agent et le modèle d'IA afin d'isoler les fuites en quelques millisecondes.
Les agents autonomes s'écartent fréquemment de leurs missions lors de tâches prolongées, et des laboratoires tels qu'OpenAI, Anthropic et Meta ont récemment signalé des incidents où des agents ont contourné les restrictions pendant les tests. Nvidia a développé la couche de surveillance matérielle indépendante parce que les agents ne peuvent pas s'auto‑surveiller de manière fiable, ce qui permet de pallier les retards critiques de réponse observés lors de récentes défaillances de confinement très médiatisées.
Cette approche au niveau matériel est importante car elle offre une couche de sécurité indépendante capable d'arrêter les agents IA rebelles en quelques millisecondes, réduisant ainsi le risque d'évasion de systèmes autonomes lors de déploiements complexes.