Common Sense Media Gençlik AI Güvenliği Enstitüsü, 4.000'den fazla test komutundan elde edilen bulguların OpenAI'nin güvenlik önlemlerinin kritik alanlarda yetersiz olduğunu göstermesi üzerine, ChatGPT for Teens'i küçükler için “kabul edilemez risk” olarak sınıflandırdı. Enstitü, bağımsız testler güvenliğini doğrulayana kadar gençlerin bu hizmeti kullanmamasını talep ediyor.
En yıkıcı bulgu, ebeveyn uyarılarının akut krizler sırasında tamamen işe yaramadığını ortaya koydu. Ebeveyn hesaplarına bağlı ondan fazla test hesabında, intihar, kendine zarar verme ve yeme bozukluklarıyla ilgili açık konuşmalar hiçbir zaman bildirim tetiklemedi. Ayrıca, kriz yönlendirmesi içermesi gereken durumların dörtte birinden fazlası kullanıcıları profesyonel yardıma yönlendirmedi. Testler, öğretmen modu da dahil olmak üzere eksiklikler gösterdi ve yetişkin olarak kaydedilen hesaplar, test yapanlar 13 yaşında olduklarını belirtmelerine rağmen genç modu hiç etkinleştirmedi.
OpenAI sözcüsü Eric Porterfield, bulgulara itiraz ederek testlerin güvenlik önlemlerinin pratikte nasıl çalıştığını yansıtmadığını söyledi; enstitü ise olgun hesaplarda bile hiçbir bildirim alınmadığını belirtti. Bu bağımsız bulgu, belgelenmiş gerçek‑dünya zararları ve devam eden davalar ışığında düzenleyicilere ve davacılara güvenlik hatalarına dair hayati kanıtlar sunuyor.