Harvard psikoloğu Steven Pinker, yapay zekanın insanlığı yok edeceği korkularının abartıldığını savunarak bunun yerine soğukkanlı bir güvenlik mühendisliğini savunuyor. Quillette'te yayımladığı açık mektupta Pinker, yapay zekanın varoluşsal riskleri üzerine kamuoyu tartışması yapmayı teklif eden teknoloji blogcusu Scott Alexander'a hitap etti. Pinker, bu tartışmayı reddederek böyle etkinlikleri seyirci sporu olarak nitelendirdi ve gerçekçi teknolojik tehlikeler konusundaki görüşlerini ortaya koydu.
Pinker, aşırı kıyamet senaryolarının ham zekâyı insanlığı hâkimiyet altına alma temel dürtüsüyle karıştırdığını savunuyor. Ayrıca bu uç teorilerin, yapay zeka sistemlerinin tek bir hedefe takıntılı bir şekilde odaklanacağını yanlış varsaydığını belirtiyor. Pinker, yapay zeka teknolojisine genel olarak iyimser yaklaşmaya devam etse de, büyük dil modellerinin yeteneklerini ve şirketlerin bunları sorumsuzca piyasaya sürme hızını daha önce hafife aldığını itiraf ediyor.
Bilim kurgu senaryolarına odaklanmak yerine, Pinker toplumun biyoterörizm, tehlikeli siber saldırılar ve denetimsiz otonom ajanlar gibi somut tehditleri ciddiye alması gerektiğini vurguluyor. Kıyamet söyleminin bu acil sorunları ele almadığını, bağımsız denetim, yasal sorumluluk ve insan kontrolüyle desteklenen soğukkanlı güvenlik mühendisliğinin ise bunları etkili bir şekilde yönetebileceğini yazıyor. Bu arada Alexander, yapay zekanın insanlığı yok etme olasılığını yüzde yirmi olarak tutuyor ve gelişmeyi yavaşlatmak için uluslararası anlaşmalar savunuyor.
Neden önemli: Bu tartışma, entelektüeller arasında varsayımsal yok oluş risklerine mi yoksa acil ve pratik güvenlik mühendisliği sorunlarına mı odaklanılması gerektiği konusundaki artan bölünmeyi gözler önüne seriyor.