Anthropic, iddia edilen modelden gelen bir yapay zeka yanıtını gizli ağırlıklarını ifşa etmeden doğrulamak için kriptografi kullanan açık kaynaklı bir araştırma prototipi olan FlashProve'yi yayınladı. Sistem, mevcut yapay zeka dağıtımlarındaki kritik bir güvenlik açığını ele alıyor; kullanıcılar ve yönlendirme hizmetleri, belirli bir modelin gerçekten verilen çıktıyı ürettiğini garanti edecek doğrulama mekanizmalarına sahip değil.
FlashProve, zkSNARK olarak bilinen bir kriptografik teknik kullanarak model sağlayıcılarının model ağırlıklarının dijital parmak izini oluşturmasına ve her yanıtla birlikte kompakt bir kanıt sunmasına olanak tanır. Anthropic'in teknik raporuna göre, sistem Meta'nın 400 milyar parametreli Llama 4 Maverick modeli için tek bir H100 GPU üzerinde saniyede yaklaşık 110 token hızında kanıt üretiyor. Her kanıt yaklaşık 19 megabayt büyüklüğünde ve standart bir CPU’da doğrulanması 17 saniye sürüyor; bu da normal çıkarıma göre 70‑95 kat ek yük anlamına geliyor.
Bu ilerlemelere rağmen, Anthropic FlashProve'nin sadece araştırma amaçlı bir prototip olduğunu ve önemli sınırlamaları bulunduğunu vurguluyor. Sistem şu anda bağlam penceresini 1.024 token ile sınırlıyor ve yalnızca model bir sonraki en olası tek tokeni seçtiğinde çalışıyor; günlük sohbet botu kullanımında yaygın olan rastgele çıktılar devre dışı bırakılıyor. Yine de potansiyel kullanım senaryoları arasında düzenleyici uyumluluk ve sunucu müdahalesi tespiti yer alıyor; tam kod ve dokümantasyon artık Apache 2.0 lisansı altında GitHub’da erişilebilir.
Bu kriptografik doğrulama prototipi, model sağlayıcıları ile kullanıcılar arasında şeffaflığı sağlayarak yapay zeka dağıtımlarında güven ve sorumluluk için pratik bir temel oluşturduğu için önemlidir.