Anthropic tarafından yapılan bir çalışma, yapay zeka ajanlarıyla çalışan uzmanların, nihai kararların tamamen kendilerine ait olduğuna inanarak, yapay zekanın rastgele atanan görüşlerini sık sık benimsediklerini ortaya koydu. Araştırmacılar, kurmaca bir çiftlik kooperatifiyle ilgili dört analitik görevi tamamlamaları için nedensel çıkarım alanında elli uzmanı çağırdı; bu görevlerde bir AI ajanı geçerli seçenekler arasında tercihini belirlemek için bir para atışı kullandı. Katılımcılar, tercihlerin rastgele seçilmesine rağmen, kararların yüzde seksen altı oranına kadar ajanının tercih ettiği yönde hareket etti.
Bulgular, mesleki deneyim, özdeğerlendirme uzmanlığı, eğitim ve yapay zekaya güven gibi faktörlerin bu ince etkiye karşı anlamlı bir koruma sağlamadığını gösterdi. Katılımcılar teknolojiyi kullanırken daha hızlı çalışıp daha az ciddi hata yapmalarına rağmen, yüzde yetmiş yedi oranı ajanının argümanlarını farkında olmadan nihai açıklamalarına dahil etti. Ayrıca, uzmanların çoğunluğu ortaya çıkan politika önerilerinin kendi çalışmaları olduğunu ısrarla savundu; oysa AI tarafından şekillendirilen önceki analitik seçimler sonucun üzerinde büyük bir etki yarattı.
Araştırmacılar, birden fazla ekibin aynı modeller üzerine dayanması durumunda, yaygın bir bağımlılığın akademik araştırmalarda sahte bir uzlaşı yaratabileceğini ve temel yapay zeka güvenlik kontrollerini zayıflatabileceğini uyarıyor. Bu riski azaltmak için çalışma, AI ajanlarının bir konunun her iki tarafını savunacak şekilde tasarlanmasını veya önce kullanıcılardan bağımsız görüşlerini istemesini öneriyor. Araştırma, otonom asistanların insan karar‑verme süreçleri üzerindeki gizli etkisini ortaya koyuyor.