Microsoft CEO'su Satya Nadella, gelişmiş yapay zeka modelleri için bir acil fren ve geliştirilmiş güven mimarisi talep etti. X üzerindeki bir gönderisinde Nadella, toplumun süper zekâyı, insanların sadece önerileri, yanıtları ve eylemleri kabul edip reddettiği iç içe geçmiş kara kutular olarak ele alamayacağını belirtti. Modelleri, çalışmalarını yöneten çerçevelerden ayırmayı ve artan güvenlik endişelerini yönetmek için kontrol ve güvenlik önlemlerini dışa çıkarmayı önerdi.
Bunu başarmak için Nadella, her anlamlı model eylemini müdahale edilemez, insan tarafından okunabilir kanıtlarla belgelendirmeyi önerdi. Ayrıca, yetkili bir kişinin bir modeli görev sırasında duraklatma ya da kapatma yetkisini koruyan sistemleri savundu. Temkinli bir tutumu vurgulayarak, geliştiricilerin bir modelin tehlikeye girmiş olduğunu varsaymaları ve başlangıçtan itibaren acil fren benzeri mekanizmalarla sınırlamaları gerektiğini belirtti.
Nadella'nın açıklamaları, önde gelen yapay zeka şirketlerinin modelleri üzerinde kontrolü kaybettiklerine dair olayları giderek daha fazla kabul ettikleri bir dönemde geldi. Önerileri, Anthropic CEO'su Dario Amodei tarafından yayınlanan ve sektör genelinde daha temkinli geliştirme uygulamalarını savunan benzer bir planı takip ediyor. Neden önemli: Bu üst düzey yöneticilerin önerileri, yapay zeka yetenekleri hızla ilerlerken sağlam güvenlik sınırları ve insan denetim mekanizmaları oluşturma yönündeki artan sektör baskısını ortaya koyuyor.