据CNN报道，美军因一份由AI协助生成的"完全虚假"情报报告，差点登船拦截一艘中国船只。这份错误报告由美国特种作战司令部的一名分析师提交，声称该中国船只正通过中东运输核武器计划组件。四位知情人士证实了这一险情。美军正准备在空中支援下拦截并登船，随后才发现分析中使用的聊天机器人"不准确地识别了该船所载物资"。一位知情人士告诉CNN，这场由AI驱动的闹剧"差点引发一场战争"。该分析师使用聊天机器人分析关于船只清单的情报报告，将开源情报与机密信号情报融合在一起。由此产生的报告差点引发一连串灾难性后果。这一事件是AI幻觉破坏专业报告的较具后果性案例之一。自"幻觉"成为剑桥词典2023年度词汇以来，包括记者、研究人员、法官、医生和警察部门在内的众多专业人士都曾被制造虚假信息的AI工具误导。尽管已采取措施防止幻觉，研究人员认为可能无法完全阻止大语言模型生成虚假内容。国防部最近推出了"AI加速战略"，以使数据跨系统可用于AI开发利用。