Im Frühjahr wurden US‑Militärflugzeuge eingesetzt, bevor Beamte entdeckten, dass die Intelligence, die eine bewaffnete Operation gegen ein chinesisches Schiff antrieb, vollständig von einem KI‑Chatbot halluziniert war. CNN berichtete, dass die Operation in letzter Minute abgebrochen wurde und damit ein potenzieller Militärkonflikt nur knapp verhindert wurde. Der alarmierende Vorfall verdeutlicht die wachsenden Bedenken, dass Fehler, die von künstlicher Intelligenz erzeugt werden, schnell die Befehlskette hinaufsteigen können, bevor Entscheidungsträger sie hinterfragen. Der falsche Geheimdienstbericht entstand, als ein Analyst des Special‑Operations‑Command einen KI‑Chatbot befragte, um Open‑Source‑Daten mit klassifizierter Signal‑Intelligence zu synthetisieren. Der Chatbot identifizierte das Ladungsmanifest des Schiffs falsch, und der Analyst nutzte das Tool ein zweites Mal, um die fehlerhaften Ergebnisse in eine offiziell wirkende Zusammenfassung zu formatieren, die über die Befehlskanäle verbreitet wurde. Dieses Beinahe‑Unglück hebt die gravierenden Risiken hervor, die entstehen, wenn die Geschwindigkeit der KI‑Einführung über menschliche Aufsicht gestellt wird, während das Pentagon seine Entscheidungsprozesse beschleunigt. Experten betonen, dass Sprachmodelle zwar operative Vorteile bieten, aber unzureichende Schutzmaßnahmen in hochriskanten Szenarien lebens‑ und todentscheidende Konsequenzen haben können.