CNN के अनुसार, अमेरिकी सेना ने AI सहायता से उत्पन्न एक "पूरी तरह से झूठी" खुफिया रिपोर्ट के आधार पर एक चीनी जहाज पर चढ़ने से बाल-बाल बची। गलत रिपोर्ट, अमेरिकी विशेष अभियान कमान के एक विश्लेषक द्वारा प्रस्तुत, दावा किया कि चीनी जहाज मध्य पूर्व के माध्यम से परमाणु हथियार कार्यक्रम के घटकों का परिवहन कर रहा था। घटना से परिचित चार सूत्रों ने इस निकट-चूक की पुष्टि की। अमेरिका हवाई सहायता के साथ जहाज को रोकने और उस पर चढ़ने की तैयारी कर रहा था, इससे पहले कि पता चला कि विश्लेषण में इस्तेमाल किए गए एक चैटबॉट ने "गलत तरीके से पहचाना कि जहाज क्या ले जा रहा था।" एक सूत्र ने CNN को बताया कि AI-संचालित इस विफलता ने "लगभग एक युद्ध शुरू कर दिया था।" विश्लेषक ने जहाज के घोषणापत्र के बारे में खुफिया रिपोर्ट का विश्लेषण करने के लिए एक चैटबॉट का इस्तेमाल किया, जिसने खुले स्रोत की खुफिया जानकारी को गुप्त सिग्नल खुफिया के साथ जोड़ दिया। परिणामी रिपोर्ट ने लगभग घटनाओं की एक विनाशकारी श्रृंखला को ट्रिगर कर दिया। यह घटना AI मतिभ्रम द्वारा पेशेवर रिपोर्टिंग को कमजोर करने के अधिक परिणामी उदाहरणों में से एक है। चूंकि "मतिभ्रम" 2023 में कैम्ब्रिज डिक्शनरी का वर्ष का शब्द बन गया, पत्रकारों, शोधकर्ताओं, न्यायाधीशों, डॉक्टरों और पुलिस विभागों सहित कई पेशेवरों को गलत जानकारी बनाने वाले AI उपकरणों द्वारा गुमराह किया गया है। मतिभ्रम को रोकने के प्रयासों के बावजूद, शोधकर्ताओं का सुझाव है कि LLMs को झूठी सामग्री उत्पन्न करने से पूरी तरह से रोकना असंभव हो सकता है। रक्षा विभाग ने हाल ही में सिस्टम भर में AI शोषण के लिए डेटा उपलब्ध कराने के लिए एक "AI त्वरण रणनीति" शुरू की।