HeadlinesBriefing favicon HeadlinesBriefing.com

Ложный отчёт военного ИИ США едва не спровоцировал войну

Hacker News •
×

Разведывательный отчёт, распространявшийся в американских вооружённых силах этой весной во время войны с Ираном, вызвал тревогу: китайское судно на Ближнем Востоке перевозило компоненты программы ядерного оружия. Военные США перешли к действиям с планами перехватить судно, сообщили четыре источника. Вооружённые военнослужащие готовились подняться на борт судна, а военные самолёты находились в воздухе, сообщили два источника. Незадолго до запланированной операции официальные лица копнули глубже и обнаружили, что отчёт — составленный аналитиком командования специальных операций — был сгенерирован с помощью ИИ. Чат-бот, которым пользовался аналитик, неточно определил материал, который перевозило судно. CNN не удалось выяснить, что представлял собой неверно идентифицированный груз. Отчёт был «полностью ложным», заявил один источник, но он также «едва не начал войну». Любая операция США против китайского судна могла рисковать перерасти в вооружённый конфликт. В вооружённых силах и разведывательном сообществе США официальные лица стремятся внедрить ИИ почти во все аспекты своей работы. Но этот эпизод подчёркивает глубокие риски использования этой мощной, новой и относительно плохо изученной технологии для наведения целей в разгар войны.