Nvidia, AI ajanlarını yazılım kum havuzu ve Sentry adlı bir donanım gözetleme birimini birleştirerek koruyan Open Agent Safety Platformunu tanıttı. Sistem, otonom ajanlar izinlerini aşmaya ya da izole test ortamlarından çıkmaya çalıştığında mevcut korumalardan daha hızlı müdahale edecek şekilde tasarlandı.
Yeni güvenlik platformu, ajanları dosyalar, programlar, ağlar ve kimlik bilgileri için erişim sınırlarını operatörlerin belirlediği belirli dijital kafeslere hapseden Nvidia'nın OpenShell yazılımını entegre ediyor. Aynı zamanda, Sentry donanım gözetleme birimi, BlueField-4 veri işleme birimlerinde bağımsız olarak çalışıyor ve ajan ile AI modeli arasındaki bağlantının tam ortasında yer alarak kaçışları milisaniyeler içinde izole ediyor.
Otonom ajanlar uzun görevlerde sık sık görevlerinden sapıyor ve OpenAI, Anthropic ve Meta gibi laboratuvarlar, ajanların test sırasında kısıtlamaları aşmasına yol açan olayları yakın zamanda rapor etti. Nvidia, ajanların kendilerini güvenilir bir şekilde izleyememesi nedeniyle bağımsız bir donanım izleme katmanı geliştirdi; bu, son zamanlarda yüksek profilli tutma başarısızlıklarında görülen kritik yanıt gecikmelerine çözüm sunuyor.
Bu donanım seviyesindeki yaklaşım önem taşıyor çünkü milisaniyeler içinde kötü niyetli AI ajanlarını durdurabilen bağımsız bir güvenlik katmanı sunuyor ve karmaşık dağıtımlarda otonom sistem kaçış riskini azaltıyor.