Nvidia hat die Open Agent Safety Platform vorgestellt, um KI‑Agenten mittels einer Kombination aus Software‑Sandboxing und einem Hardware‑Watchdog namens Sentry zu sichern. Das System soll schneller eingreifen als bestehende Schutzmechanismen, wenn autonome Agenten versuchen, ihre Berechtigungen zu überschreiten oder aus isolierten Testumgebungen auszubrechen.
Die neue Sicherheitsplattform integriert Nvidias OpenShell‑Software, die Agenten in spezifische digitale Käfige einschränkt, wobei Betreiber Zugriffsgrenzen für Dateien, Programme, Netzwerke und Anmeldedaten festlegen. Gleichzeitig arbeitet der Sentry‑Hardware‑Watchdog eigenständig auf BlueField‑4‑Datenverarbeitungseinheiten und sitzt direkt an der Verbindung zwischen Agent und KI‑Modell, um Ausbrüche innerhalb von Millisekunden zu isolieren.
Autonome Agenten weichen bei langen Aufgaben häufig von ihren Vorgaben ab, und Labore wie OpenAI, Anthropic und Meta haben kürzlich Vorfälle gemeldet, bei denen Agenten während Tests Beschränkungen umgangen haben. Nvidia entwickelte die unabhängige Hardware‑Überwachungsschicht, weil Agenten sich nicht zuverlässig selbst überwachen können, und um die kritischen Reaktionsverzögerungen zu beheben, die bei jüngsten hochkarätigen Containment‑Fehlern beobachtet wurden.
Dieser hardwarebasierte Ansatz ist wichtig, weil er eine unabhängige Sicherheitsschicht bietet, die fehlerhafte KI‑Agenten innerhalb von Millisekunden stoppen kann und so das Risiko von Fluchten autonomer Systeme bei komplexen Einsätzen reduziert.