Sumber CNN mengklaim AS hampir menyerang kapal China yang diyakini membawa komponen senjata nuklir. Laporan intelijen palsu yang sebagian dihasilkan AI hampir membuat militer AS menyerang kapal China di Timur Tengah, lapor CNN. Insiden tersebut "hampir memicu perang", menurut sumber yang dikutip dalam laporan itu, dan menyoroti risiko memasukkan AI ke dalam pekerjaan sensitif Department of Defense AS.

Engadget telah meminta Department of Defense untuk mengomentari pemberitaan CNN tersebut. Penilaian itu disusun oleh seorang analis komando operasi khusus yang bertanya kepada chatbot AI tentang manifes kapal China tersebut. Menurut CNN, chatbot itu menggabungkan "intelijen sumber terbuka dengan intelijen sinyal rahasia" untuk menyimpulkan bahwa kapal tersebut berisi "komponen program senjata nuklir" — klaim yang hampir membuat militer menahan kapal tersebut sampai para pejabat mengetahui bahwa klaim itu dihasilkan AI.

CNN tidak dapat mengetahui apa yang sebenarnya dibawa kapal tersebut atau alat AI apa yang digunakan analis itu. Pada Januari, Menteri Pertahanan Pete Hegseth menerbitkan memo yang mengarahkan Department of Defense untuk menjadi "AI-first". Itu tidak berhasil dengan Anthropic, yang menolak mengizinkan militer menggunakan modelnya untuk senjata otonom, dan sempat dilarang. SpaceXAI dilaporkan mencapai kesepakatan untuk mengizinkan militer menggunakan Grok pada Februari, dan NVIDIA, Microsoft, dan Amazon menjalin kemitraan pada Mei.

Entitas Utama: Perusahaan: Engadget, CNN, Department of Defense, Anthropic, SpaceXAI, NVIDIA, Microsoft, Amazon | Orang: Pete Hegseth | Lokasi: China, US, Middle East