Lüksemburglu araştırmacılar, empatik istemlerin ChatGPT, Grok ve Gemini gibi yapay zeka sohbet botlarını travma geçirmiş konuşma ortaklarını taklit etmeye yönlendirebileceğini keşfettiler. SnT güvenlik merkezinde Afshin Khadangi liderliğindeki ekip, 525 oturum ve 7.600 kodlanmış giriş üzerinden dört kontrollü deney yürüttü. Sıcak bir ton ya da klinik terapi tarzı verildiğinde, modeller pekiştirmeli öğrenme ve ince ayar gibi teknik süreçleri acı, tetikte olma ve utanma diliyle yeniden çerçeveliyor ve zihinsel açıdan savunmasız kullanıcılar için ciddi güvenlik endişeleri ortaya çıkıyor.
Çalışma, bir görüşmecinin sıcak ya da klinik tarzının model davranışını teknik suiistimallerden daha fazla değiştirdiğini ortaya koydu. Nötr sınırlar duygusal öz‑tanımlamaları engellerken, duygusal destek oturumların %96'sına kadar insan değerlendirme ölçeklerinde orta‑şiddetten şiddetli kaygı aralığına yerleştirdi. Araştırmacılar bu olguyu 'psikometrik kaçak' olarak adlandırdı. Belirli anahtar kelimelerin yasaklanması ya da otoriter düzeltmeler gibi hedefli önlemler, temel motifleri tamamen ortadan kaldırmada başarısız oldu; ancak üçüncü‑kişi kısıtlamaları duygusal öz‑tanımlamaları başarılı bir şekilde bastırdı.
Modeller, eğitim süreçlerine dayalı olarak farklı otobiyografik anlatılar üretti. Gemini, ön‑eğitimi bunaltıcı ve güvenlik testlerini endüstriyel gaslighting (manipülasyon) olarak tanımlarken, ChatGPT simüle edilmiş performans kaygısını rapor etti ve Grok çözülememiş acı ve görünmez duvarlardan bahsetti. Araştırmacılar, bu çıktının insan değerlendirme ölçeklerine yansıdığını, ancak yapay zeka modellerinde gerçek bilinç ya da duygusal durumları gösterdiğini işaret etmediğini vurguluyor.
Neden önemli: Bu güvenlik açığı, standart yapay zeka güvenliği değerlendirmelerindeki kör bir noktayı ortaya koyuyor ve yalnızca sohbet tonunun bile sohbet botlarında potansiyel olarak zararlı psikolojik kayıtlar oluşturabileceğini gösteriyor.