OpenAI, gelişmiş yapay zekâ geliştirmesi için uluslararası standartlar oluşturma çabası içinde ve özellikle yinelemeli öz‑gelişime odaklanıyor. Yinelemeli öz‑gelişimde, yapay zekâ sistemleri bir sonraki nesil teknolojiyi inşa etmek için gereken araştırmayı giderek otomatikleştiriyor; bu da ilerlemeyi dramatik bir şekilde hızlandırabilir. Tamamen özerk yinelemeli öz‑gelişim şu anda gerçekleşmese de, OpenAI bunun yalnızca güvenli bir şekilde yapılabileceği sürece sürdürülmesi gerektiğini belirtiyor ve insanlığın gelişimi kaybetmesi ve uyumsuz sistemlerle karşılaşması riskine dikkat çekiyor.
Bu riskleri ele almak için OpenAI, Birleşik Devletler'in ulusal yapay zekâ güvenliği enstitüleri ve CAISI, ISO gibi kuruluşlar üzerine inşa ederek küresel teknik standartlarda liderlik etmesini öneriyor. Bu çerçeve, ortak ölçüm yöntemleri, olay raporlaması ve otomatikleştirilmiş yapay zekâ araştırması için insan denetimini zorunlu kılan kuralları içerecek. Bu girişim, Birleşmiş Milletler bilimsel panelinin otonom ajan sürülerinin kontrolünü kaybetme uyarısının ardından ve havacılık, nükleer enerji ve siber güvenlik çerçevelerine benzer uluslararası güvenlik iş birliğini öneren son gelişmelerin bir devamı niteliğinde.
Neden önemli: Kendini geliştiren yapay zekâ için uluslararası standartların oluşturulması, uyumsuz sistemlerin önlenmesi ve gelişmiş teknoloji üzerinde insan kontrolünün sürdürülmesi için hayati öneme sahiptir.