Anthropic, endüstriyel ölçekli model damıtma ile mücadelesinde Claude akıl yürütme token hırsızlığını %99'a kadar azaltmayı başardı. Şirket, rakip kuruluşların AI model yeteneklerini sistematik olarak kopyalayarak kendi daha küçük sistemlerini eğittikleri büyük ölçekli saldırılara karşı yeni savunmalar uyguladığını duyurdu.
Saldırganlar, Claude'dan iç zincirleme düşünce adımlarını çekmek için yüz binlerce sahte hesaptan oluşan ağlar kullanıyor. Anthropic, bu çıkarım çabalarına Çinli şirketler Zhipu ve Moonshot'un katıldığını özellikle belirtti; Zhipu'nun iddia edildiği gibi GLM-5.3 modeli için siber yetenekleri çektiği ve Moonshot'un sorguları gizlice Claude üzerinden yönlendirdiği, çalınan teknolojinin yabancı askeri ve gözetim sistemlerine ulaşma riskini oluşturduğu vurgulandı.
Bu tehditlere karşı Anthropic, Claude'un iç akıl yürütme adımlarına erişimi kısıtlıyor, çıkarım girişimlerini tespit etmek için özel bir sınıflandırıcı çalıştırıyor ve işaretlenen hesapları otomatik olarak yasaklıyor; bu da şimdiye kadar on binlerce yasağa yol açtı. Meşru kullanıcılar bazen yeni tespit sürecine takılsa da, Anthropic diğer yapay zeka geliştiricilerine benzer koruyucu önlemler almayı öneriyor.
Neden önemli: Bu savunma, yasa dışı model eğitiminin önüne büyük ölçüde geçerek gelişmiş AI yeteneklerinin yabancı askeri ve gözetim eline geçmesini engelliyor.