Aviones militares de EE. UU. fueron desplegados esta primavera antes de que los funcionarios descubrieran que la inteligencia que impulsaba una operación armada contra un buque chino era totalmente una alucinación de un chatbot de IA. CNN informó que la operación se abortó en el último minuto, evitando por poco un posible conflicto militar. El alarmante incidente subraya la creciente preocupación de que los errores producidos por la inteligencia artificial pueden ascender rápidamente en la cadena de mando antes de ser cuestionados por los tomadores de decisiones. El informe de inteligencia falso se originó cuando un analista del Comando de Operaciones Especiales consultó a un chatbot de IA para sintetizar datos de fuentes abiertas con inteligencia de señales clasificada. El chatbot identificó erróneamente el manifiesto de carga del barco, y el analista utilizó la herramienta una segunda vez para formatear los hallazgos incorrectos en un resumen con apariencia oficial que circuló por los canales de mando. Este casi accidente destaca los graves riesgos de priorizar la velocidad de adopción de IA sobre la supervisión humana mientras el Pentágono se apresura a acelerar sus procesos de toma de decisiones. Los expertos enfatizan que, si bien los modelos de lenguaje ofrecen ventajas operativas, la falta de salvaguardas suficientes en escenarios de alto riesgo puede acarrear consecuencias de vida o muerte.