Quellen von CNN behaupten, dass die USA fast ein chinesisches Schiff angegriffen hätten, von dem sie glaubten, es transportiere Komponenten für Atomwaffen. Ein falscher, teilweise von KI generierter Geheimdienstbericht hätte das US-Militär fast dazu gebracht, ein chinesisches Schiff im Nahen Osten anzugreifen, berichtet CNN. Der Vorfall hätte „fast einen Krieg ausgelöst", so eine im Bericht zitierte Quelle, und verdeutlicht die Risiken der Integration von KI in die sensible Arbeit des US Department of Defense.

Engadget hat das Department of Defense um eine Stellungnahme zu dem CNN-Bericht gebeten. Die Einschätzung wurde von einem Analysten des Kommandos für Spezialoperationen erstellt, der einen KI-Chatbot nach dem Manifest des chinesischen Schiffes fragte. Laut CNN kombinierte der Chatbot „Open-Source-Informationen mit geheimen Signalaufklärungsdaten", um zu dem Schluss zu kommen, dass das Schiff die „Komponenten eines Atomwaffenprogramms" enthalte – eine Behauptung, die fast dazu geführt hätte, dass das Militär das Schiff festsetzte, bis Beamte herausfanden, dass sie von KI generiert worden war.

CNN konnte nicht herausfinden, was das Schiff tatsächlich transportierte oder welches KI-Tool der Analyst verwendete. Im Januar veröffentlichte Verteidigungsminister Pete Hegseth ein Memo, in dem er das Department of Defense anwies, „AI-first" zu werden. Das funktionierte nicht mit Anthropic, die sich weigerte, dem Militär die Nutzung ihrer Modelle für autonome Waffen zu erlauben, und vorübergehend gesperrt wurde. SpaceXAI soll im Februar eine Vereinbarung getroffen haben, die dem Militär die Nutzung von Grok erlaubt, und NVIDIA, Microsoft und Amazon gingen im Mai eine Partnerschaft ein.

Wichtige Entitäten: Unternehmen: Engadget, CNN, Department of Defense, Anthropic, SpaceXAI, NVIDIA, Microsoft, Amazon | Personen: Pete Hegseth | Orte: China, US, Middle East