По данным CNN, армия США по небольшой márже избежала посадки на китайский корабль на основе «полностью ложного» разведывательного отчета, созданного с помощью ИО. Ошибочный отчет, поданный аналитиком Специального операционного командования США, утверждал, что китайское судно перевозит компоненты ядерной программы через Ближний Восток. Четыре источника, знакомые с инцидентом, подтвердили этот близкий случай. США готовились перехватить и посадку на корабль с воздушной поддержкой, прежде чем обнаружили, что чат-бот, использованный в анализе, «неточно определил материал, который перевозил корабль». Один источник сказал CNN, что этот провал, основанный на ИИ, «почти начал войну». Аналитик использовал чат-бот для анализа разведывательных отчетов относительно манифеста корабля, который объединял открытую разведку с секретной радиоразведкой. Полученный отчет едва не запустил цепочку катастрофических событий. Этот инцидент представляет собой один из самых значимых примеров галлюцинации ИИ, подрывающих профессиональную отчетность. С тех пор как «галлюцинация» стала словом 2023 года по версии словаря Cambridge, множество профессионалов, включая журналистов, исследователей, судей, врачей и полицейские департаменты, были введены в заблуждение инструментами ИИ, вымышляющими информацию. Несмотря на усилия по предотвращению галлюцинаций, исследователи предполагают, что может быть невозможно полностью остановить большие языковые модели от генерации ложного контента. Министерство обороны недавно внедрило «стратегию ускорения ИИ», чтобы сделать данные доступными между системами для использования ИИ.