CNNによると、米軍はAIの支援で生成された「完全に虚偽の」情報報告に基づき、中国船への乗り込みを寸前で回避した。誤った報告は米特殊作戦コマンドのアナリストによって提出され、中国船が中東経由で核兵器計画の部品を輸送していると主張していた。この件に詳しい4人の情報筋がニアミスを確認した。米軍は空中支援を得て船を拿捕・乗り込みする準備を進めていたが、分析に使われたチャットボットが「船の積荷を不正確に特定していた」ことが発覚した。ある情報筋はCNNに対し、このAI主導の失態が「ほぼ戦争を引き起こすところだった」と語った。アナリストは船の積み荷目録に関する情報報告をチャットボットで分析し、オープンソース情報と機密シグナル情報を融合させた。その結果生まれた報告が、破滅的な連鎖反応をほぼ引き起こした。この事件は、AIのハルシネーションが専門家の報告を損なう、より深刻な事例の一つだ。「ハルシネート（幻覚を見る）」がケンブリッジ辞典の2023年「今年の言葉」になって以来、ジャーナリスト、研究者、判事、医師、警察署など多くの専門家が、虚偽情報を生成するAIツールに誤導されてきた。ハルシネーション防止の努力にもかかわらず、研究者たちはLLMが虚偽コンテンツを生成することを完全に防ぐのは不可能かもしれないと指摘する。国防総省は最近、システム間でデータをAI活用のために利用可能にする「AI加速戦略」を打ち出した。