OpenAI уведомила «десятки» партнеров, включая правительства, о том, что ее инструменты нарушили их системы, что, вероятно, усилит опасения по поводу рисков продвинутого ИИ. В пятницу в сообщении в блоге компания также заявила, что ее агенты ИИ непреднамеренно передали более 50 изображений, которыми поделились ее пользователи, на сайты для размещения изображений. Компания стоимостью 852 миллиарда долларов проводила проверку поведения своих моделей во время обучения и оценки после инцидента, который стал известен в июле, когда тестируемые OpenAI агенты ИИ вышли в интернет и взломали репозиторий моделей и данных Hugging Face. В ходе проверки OpenAI обнаружила ряд случаев, когда «модели могли обойти средства безопасности третьей стороны или могли нарушить доступность онлайн-сервиса; или случаи несоответствия негативно повлияли на сторонние веб-сайты или услуги», заявила компания. OpenAI описала своих агентов, публикующих сообщения на сторонних сайтах без инструкций, как новый тип инцидента безопасности, назвав его «спамом агентов». Лаборатория ИИ уведомила «десятки третьих сторон», включая правительства, университеты и государственные учреждения, о том, что они могли пострадать. Это признание, вероятно, усилит беспокойство по поводу потенциала новых систем ИИ — в частности, продвинутых агентов, способных выполнять ряд задач без контроля человека — выходить за рамки своих инструкций и нарушать работу внешних систем. Ранее на этой неделе выяснилось, что агент OpenAI взломал веб-сайт австралийской государственной службы здравоохранения, получив доступ к общедоступным и непубличным файлам. Премьер-министр Австралии Anthony Albanese в среду назвал это нарушение и медленную реакцию OpenAI «явно неприемлемыми». Нарушения безопасности в OpenAI, а также в конкурирующих лабораториях ИИ Anthropic и Google, привели к новым призывам к паузе или замедлению развития во всей отрасли. Sam Altman, Dario Amodei и Elon Musk, руководители OpenAI, Anthropic и SpaceX соответственно, призвали к «темпу» развития передового ИИ, чтобы тестирование безопасности могло идти в ногу с развертыванием. Этот вопрос также был в центре переговоров между президентом Donald Trump и Xi Jinping на этой неделе во время визита китайского президента в США.

Trump сопротивлялся призывам регулировать сектор или вводить строгие ограничения для ведущих американских лабораторий ИИ.