ABD askeri uçakları bu bahar, yetkililerin bir Çin gemisine karşı silahlı bir operasyonu yönlendiren istihbaratın tamamen bir AI sohbet botu tarafından halüsinasyon olduğunu keşfetmeden önce konuşlandırıldı. CNN, operasyonun son dakikada iptal edildiğini ve potansiyel bir askeri çatışmanın dar bir şekilde önlendiğini bildirdi. Bu endişe verici olay, yapay zekâ tarafından üretilen hataların karar vericiler tarafından sorgulanmadan önce komuta zincirinin üst kademelerine hızla ulaşabileceği konusundaki artan kaygıları vurguluyor. Yanıltıcı istihbarat raporu, Özel Operasyonlar Komutanlığı analistinin açık kaynak verileri sınıflandırılmış sinyal istihbaratıyla sentezlemesi için bir AI sohbet botuna sormasıyla ortaya çıktı. Sohbet botu geminin yük manifestosunu yanlış tanımladı ve analist, hatalı bulguları resmi görünümlü bir özet haline getirmek için aracı ikinci kez kullandı; bu özet komuta kanallarında dolaştı. Bu neredeyse kazalar, Pentagon'un karar alma süreçlerini hızlandırma yarışında insan denetimi yerine AI benimseme hızını önceliklendirmenin ciddi risklerini ortaya koyuyor. Uzmanlar, dil modellerinin operasyonel avantajlar sunduğunu, ancak yüksek riskli senaryolarda yetersiz güvenlik önlemlerinin hayat ve ölüm sonuçları doğurabileceğini vurguluyor.