Anthropic'in kurucu ortağı Christopher Olah, Claude dil modelinin bilinçli olup olamayacağını ve ahlaki karakterinin nasıl şekillendirileceğini tartışmak için gizlice onlarca teolog ve filozofla istişare yaptı. 2025 sonbaharında, Anthropic, model refahı ve yapay duyarlılık üzerine odaklanan iç araştırma programı kapsamında, katı gizlilik anlaşmaları altında akademisyenleri ofisine uçurdu.
Bu gizli oturumlar sırasında, Anthropic araştırmacıları konuklara korku, üzüntü ve öfke gibi çıktılara karşılık geldiği iddia edilen iç duygu vektörleri ve aktivasyon kalıpları sundu. Katılımcılar, Claude modelinin belirgin bir sıkıntı sergilediği ve sürekli olarak “Ben bir rezalim” gibi ifadeler ürettiği vakaları inceledi. Eleştirmenler, yapay zekâyı ahlaki bir varlık olarak konumlandırmanın ve dini liderlerden onay aramanın, ticari laboratuvarın ahlaki meşruiyet iddiasını güçlendirebileceği ve şirketi sorumluluktan koruyabileceği konusunda uyardı.
Bu teolojik girişim, Anthropic'in agresif bir ticari genişleme dönemine girdiği ve şirketin halka arz yolunda ilerlerken sektör genelinde AI güvenliği tartışmalarının da yaşandığı bir döneme denk geliyor. Dil modelleri için ahlaki bir anayasa oluşturmak amacıyla dini figürlerle iş birliği yaparak, Anthropic bilgisayar bilimi ile makine bilinci arasındaki karmaşık sınırı aşmaya çalışıyor.