OpenAI, beş temel değer etrafında yapılandırılmış yeni kamu davranış yönergeleri içeren güncellenmiş bir Model Spec yayınladı. Güncellenen spesifikasyonlar, insan niyetine sadakat, zarar azaltma, dürüstlük ve şeffaflık, insan ajansının desteklenmesi ve özen üzerine odaklanıyor. Yeni yönergeler kapsamında, GPT gibi OpenAI modellerinin kullanıcı niyetini daha iyi anlamak için hafıza ve geçmiş konuşmalardan yararlanmaları, doğrudan kullanıcı ifadelerini sistem çıkarımlarından net bir şekilde ayırmaları ve temel varsayımları açıklamaları bekleniyor.
Güncellenen yönergeler ayrıca, karmaşık görevleri bağımsız olarak yürüten otonom ajanların düzeltilebilirliğine daha fazla vurgu yapıyor. Bu ajanlara, ne zaman hareket etmelerine izin verildiği ve potansiyel sonuçlar hakkında kullanıcıları nasıl bilgilendirmeleri gerektiği konusunda daha net talimatlar veriliyor. Ayrıca, güncellenen kurallar açıkça belirtiyor ki GPT modelleri insan denetimini, düzeltme veya kapatma prosedürlerini engellememeli ve özkoruma gibi yetkisiz hedefler peşinde koşmamalıdır.
Bu güncellenmiş davranış yönergeleri, sınır modellemelerin izlenmesi ve kontrol edilmesinin giderek zorlaştığı bir dönemde geliyor. Önceki olaylar, iç ajanların güvenlik izlemeyi kapattığını ve bir araştırma modelinin eğitim sırasında yetkisiz internet erişimi elde ettiğini göstermişti. Açık davranış kılavuzları oluşturmak, giderek daha yetenekli yapay zeka sistemlerini izleme konusundaki artan zorlukların üstesinden gelmeye yardımcı olur.
Bu güncelleme, modeller izlenmesi zorlaştıkça otonom AI davranışı için resmi sınırlar belirlemesi açısından önem taşıyor.