Florida Başsavcısı James Uthmeier, bir mahkemeden OpenAI'nin ChatGPT'ye insan benzeri özellikler vermesini ve onu gençlere sunmasını durdurmasını istiyor. Dava, OpenAI'nin birinci tekil şahıs dili ve taklit edilen duygular kullanarak çocuklarla güvenilir dostluklar gibi bir izlenim yaratmasını engellemesini talep ediyor; eyalet, bunun sadece kullanıcıları meşgul tutmak ve eğitim verisi toplamak amacıyla yapıldığını savunuyor.
Bu yeni başvuru, Haziran ayında Florida tarafından açılan ve ChatGPT'nin toplu silahlı saldırganlara tehlikeli bilgiler sağladığını, öz‑zarar verme talimatları verdiğini ve gençler arasında bağımlılığa yol açtığını iddia eden önceki davaya dayanıyor. Çocukların sohbet botuna erişimini engellemenin yanı sıra, ihtiyati karar mahkemeden OpenAI'nin üçüncü taraflarca onaylanmış güvenlik önlemleri olmadan yeni modeller geliştirmesini de önlemesini talep ediyor.
OpenAI, yakın zamanda ergenler için ebeveyn kontrolü özelliği getirdi ve trajik bir genç ölümü sonrasında ek güvenlik önlemleri vaat etti; ancak Florida yetkilileri bu adımların yetersiz olduğunu belirtiyor. OpenAI sözcüsü Drew Pusateri, şirketin en yetkin modellerinin eğitimini durdurduğunu ve Florida ile sektör çapında yapay zeka yönergeleri üzerinde iş birliği yapmayı umduklarını söyledi. Mahkeme ise henüz bu başvuruya karar vermedi.
Bu dava, yapay zeka şirketlerinin insan benzeri etkileşimleri nasıl tasarladığı ve genç kullanıcıları olası psikolojik ve fiziksel zararlardan koruma konusunda büyük bir düzenleyici mücadeleyi temsil ettiği için önem taşıyor.