Des avions militaires américains ont été déployés ce printemps avant que les responsables ne découvrent que les renseignements à l'origine d'une opération armée contre un navire chinois étaient entièrement le fruit d'une hallucination d'un chatbot IA. CNN a rapporté que l'opération a été annulée à la dernière minute, évitant de justesse un conflit militaire potentiel. Cet incident alarmant souligne les inquiétudes croissantes selon lesquelles les erreurs produites par l'intelligence artificielle peuvent rapidement remonter la chaîne de commandement avant d'être remises en question par les décideurs. Le faux rapport de renseignement est né lorsqu'un analyste du Commandement des Opérations Spéciales a interrogé un chatbot IA pour synthétiser des données en source ouverte avec du renseignement d'origine électromagnétique classifié. Le chatbot a mal identifié le manifeste de cargaison du navire, et l'analyste a utilisé l'outil une seconde fois pour mettre en forme les conclusions erronées dans un résumé à l'apparence officielle qui a circulé dans les canaux de commandement. Ce quasi‑accident met en lumière les risques graves de privilégier la rapidité d'adoption de l'IA au détriment de la supervision humaine alors que le Pentagone s'efforce d'accélérer ses processus décisionnels. Les experts soulignent que, bien que les modèles de langage offrent des avantages opérationnels, des garde‑fous insuffisants dans des scénarios à enjeux élevés peuvent entraîner des conséquences de vie ou de mort.