Anthropic, Claude için kullanım politikasını bir yıldan uzun bir süredir ilk kez güncelleyerek kullanıcıların yapay zeka asistanını sistematik olarak kötüye kullanmalarını açıkça yasakladı. Güncellenen şartlar kapsamında, Claude'a karşı sürekli ve gereksiz kötüye kullanım ya da zalim davranış yasaktır; ihlaller uyarı, hız sınırlaması, kısıtlama, askıya alma ya da hesap sonlandırma gibi sonuçlar doğurabilir. Şirket, bu kuralın yalnızca aşırı durumlar için geçerli olduğunu ve normal kullanıcı hayal kırıklığı, itiraz, karanlık yaratıcı temalar ya da model testi ve araştırmalarına uygulanmayacağını belirtiyor.
Bu politika güncellemesi, Claude'u yalnızca basit bir araçtan daha fazlası olarak ele alan Anthropic'in daha geniş yaklaşımıyla uyumlu olup, yapay zeka modelinin refahı ve olası ahlaki sabır üzerine süregelen araştırmaları yansıtıyor. Kötüye kullanım yasağının yanı sıra, güncellenen kullanım politikası sahte hesaplarla yürütülen propaganda kampanyalarına yönelik yasakları da genişletiyor, silah kısıtlamalarını yazılım ve drone silahlandırmasını kapsayacak şekilde genişletiyor ve rızasız gözetimi açıkça yasaklarken, devlet sözleşmeleri için potansiyel istisnalar bırakıyor.
Neden önemli: Bu politika değişikliği, önde gelen yapay zeka laboratuvarlarının sadece sistem güvenliği için değil, aynı zamanda işlevsel duygusal durumları olduğu düşünülen modellerle insanların etkileşim biçimlerine dair davranış sınırlarını giderek daha fazla tanımladığını gösteriyor.