OpenAI, sahte haberleri meşru haber kuruluşlarına yerleştiren Rus ve İran etki operasyonlarına bağlı ChatGPT hesaplarını ortaya çıkarıp yasakladı. Soruşturma, her iki operasyonun da yalnızca sosyal medya kampanyalarına güvenmek yerine, içerikleri geleneksel medyaya yerleştirmek için uydurma kimlikler kullandığını ortaya koydu.
Rus operasyon, “Dark Clark” adıyla anıldı ve Ukrayna’yı itibarsızlaştırmak ve yerel siyaseti etkilemek amacıyla Latin Amerika genelinde dezenformasyon yaydı. Bir düşünce kuruluşunu kontrol etmek için hayali bir kişilik üzerinden faaliyet gösteren aktörler, Ecuador ve Peru’da resmi reddetmelere ve doğrulama kontrollerine yol açan sahte ses dosyaları ve belgeler kullandı. OpenAI, politikacıların üretilen içeriğe doğrudan tepki vermesi nedeniyle bu kampanyayı Breakout Ölçeği’nde 6 üzerinden 5 puanla değerlendirdi.
Aynı zamanda, “Bogus Bylines” adlı İran operasyonu, dünya çapındaki çevrimiçi platformlarda ABD‑İran çatışmasıyla ilgili neredeyse 100 makale yayımlatmak için yedi sahte gazeteci kullandı. Rus ve İran aktörleri, iç raporlama görevleri ve propagandayı birden çok dile çevirmek için öncelikli olarak yapay zekâdan yararlandı.
Bu yaptırım, içerik üretimi ve çok dilli uyarlama için yapay zeka araçlarını kullanan yabancı devlet destekli dezenformasyon kampanyalarının devam eden tehditlerini vurgulamaktadır.