Anthropic, revize edilmiş bir S-1A dosyasında, şirketin yinelemeli öz‑gelişim (RSI) yapabilen bir yapay zeka modeli oluşturma eşiğinde olduğunu yeni ortaya koydu. Mevcut modeller bu eşiği aşmamış olsa da, laboratuvar bunun, yapay zeka sistemlerinin yol açtığı dramatik bir hızlanmayı içeren iç tanımına yakında ulaşabileceği konusunda uyardı.
Dosyada, Anthropic'in araştırma ve geliştirme süreçlerinde zaten yapay zekâ kullandığı ve yetenek ilerlemelerinin uyum ve güvenlik önlemlerini geride bırakması durumunda güvenlik riskleri oluşturduğu belirtiliyor. Şirket, daha önce önemli bir gelişme hızlanmasını ancak gerçekleştiği sonradan tespit edebildiğini ve bu durumun, Sorumlu Ölçeklendirme Politikası'na ilişkin Risk Faktörleri bölümünde yeni açıklamalara yol açtığını kaydetti.
Bu yetenek kilometre taşlarına yaklaşmasına rağmen, Anthropic mevcut modellerin eşiği aşmadığını belirtti ve araştırma‑geliştirme sürecinde insan denetimini sürdürme sözü verdi. Laboratuvar, anlamlı bir insan gözetimi olmadan Claude'un sınır model nesillerini tamamen otonom şekilde tasarlayıp inşa etmesine güvenli bir şekilde izin vermeyi öngörmediğini vurguladı.
Bu açıklama önem taşıyor çünkü yinelemeli öz‑gelişim yeteneklerine yaklaşmak, hızlı teknolojik ivmeyi sağlam güvenlik çerçeveleri ve insan yönetimiyle dengeleme ihtiyacının aciliyetini ortaya koyuyor.