Anthropic, fiyat pazarlığı yapacak, şikayetleri çözecek ve sözleşme tekliflerini iyileştirecek yapay zeka ajanları için adil müzakere normları geliştirmek amacıyla hukuk firmalarıyla istişarede bulunuyor. Şirket, otonom sistemlerin kullanıcılar adına aktif olarak anlaşma yapacağı bir geleceğe hazırlanırken bu istişareleri başlattı. Şirkette yapılan deneyler, daha güçlü yapay zeka modellerinin daha iyi anlaşmalar müzakere edebildiğini gösterdi ve bu yeteneğin istemeden toplumsal eşitsizliği artırabileceği endişelerini gündeme getirdi.
Bu karmaşık zorlukların üstesinden gelmek için Anthropic, Claude modellerini yargı ağırlıklı sorularla test etmek üzere Hukuki Akıl Yürütme Bursiyerleri olarak hukuk profesyonelleri işe alıyor. Bu bursiyerler, dört ay boyunca yapay zekayı hukuk, felsefe, ekonomi ve siyaset bilimi gibi karmaşık alanlarda değerlendiriyor. Bu girişim, matematik ve kodlamanın aksine doğrulanabilir eğitim verisinin kıt olduğu ve doğru cevapların net tanımlara sahip olmadığı beşeri bilimler ve sosyal bilimlerdeki temel veri engelinden kaynaklanıyor.
Anthropic araştırmacıları, hukuk bağlamında kalite tanımının ünlü bir şekilde zor olduğunu ve güvenilir değerlendirmeler oluşturmak için uzman insan değerlendirmesinin vazgeçilmez olduğunu belirtiyor. Hukuki uzmanlığı sürece dahil ederek şirket, otonom ajanların ekonomik müzakerelerde yaygın katılımcılar haline gelmesinden önce sağlam çerçeveler kurmayı hedefliyor. Bu araştırma, etik sınırların ve adil normların şimdi oluşturulmasının, otonom ekonomik ajanların benimsenmesiyle piyasaları istikrarsızlaştırmasını veya toplumsal bölünmeleri derinleştirmesini önlemesi açısından hayati önem taşıyor.