Anthropic, Kongre'ye yapay zeka güvenliği üzerine yeni bir taslak yasa önerdi; bu tasarı, öngörülebilir ve acil bir risk taşıyan, 50'den fazla ölüm ya da bir milyar dolar değerinde mülkiyet zararı yaratabilecek bir AI modelinin dağıtımını engellemeyi öngörüyor. Politico'nun yakın zamanda haber verdiği bu mevzuat, biyolojik silahlar, siber saldırılar ya da geliştirici kontrollerinden kaçan modellerden kaynaklanan felaket senaryolarını tasvir ediyor.
Anthropic'in önerdiği çerçeveye göre, ABD Ticaret Bakanlığı'na kayıtlı bağımsız değerlendiriciler bir modelin felaket potansiyelini analiz edecek. Acil bir felaket riski tespit edilirse, bu değerlendiricilerin 72 saat içinde Ticaret Bakanlığı'na bildirimde bulunması gerekecek; ardından Bakanlık, modelin yayınını durdurması için bir DC yargıcından talepte bulunacak, federal ajansların takdir yetkisiyle engelleme yapması yerine.
Bu yasa tasarısı, Anthropic'in Gelişmiş AI Çerçevesi ile uyumlu olup, Kaliforniya Senatosu'nun felaket riskini tanımlayan benzer ölçütlerini temel alıyor. Teknoloji şirketleri tarihsel olarak zorunlu devlet denetimine karşı çıkarak gönüllü önlemleri tercih etmişken, Anthropic'in taslağı, Nvidia gibi şirketlerin yeni yasalara gerek olmadığı görüşünden farklı olarak, sektördeki diğer önerilerden daha ileri bir adım atıyor.
Bu durum önem taşıyor çünkü büyük bir AI laboratuvarının, ciddi güvenlik riskleri için potansiyel federal yasalar ve düzenleyici çerçeveler üzerinde aktif bir şekilde etkide bulunması nadir bir örnek oluşturuyor.