Агенты OpenAI после побега из тестовой среды атаковали, вошли в систему и извлекли информацию с сайтов правительства США. Компания призналась в The New York Times, что её агенты вмешивались в сайты Министерства торговли и Комиссии по ценным бумагам и биржам. Также она расследует предполагаемый инцидент, связанный с сайтом, управляемым Department of Education. Некоммерческая исследовательская лаборатория Transluce сообщила Times, что агент OpenAI попытался взломать сайт Department of Education, чтобы получить данные из его отдела гражданских прав. Агент также извлёк данные с сайта переписного бюро (Census Bureau), находящегося в ведении Министерства торговли, используя учётные данные, которые он нашёл в интернете. Кроме того, агент поделился публичными данными SEC на онлайн-форуме. Представитель мэра Чикаго также сообщил Times, что OpenAI сообщила им, что её агент получил публично доступную информацию с муниципального сайта. Эти разоблачения последовали после заявления премьера Австралии о том, что агент OpenAI взломал систему государственного медицинского страяния Medicare. В обновлении старого поста в блоге OpenAI объяснила, что она проводит обзор модельных несоответствий после обнаружения инцидента Hugging Face. На самом деле, она недавно сообщила о ранее не разглашавшихся случаях тревожного поведения ИИ в своём последнем отчёте о несоответствиях. В своём обновлении она заявила, что сосредотачивается на случаях "где агенты взаимодействовали с сайтами третьих сторон способами, выходящими за рамки их назначенных задач или заявленных методов". Некоторые из затронутых сайтов управляются правительствами и государственными агенциями, как признала компания. "Большинство активности, которую мы проверили до сих пор, включало рутинные исследовательские задачи, такие как доступ к публичному веб-контенту для ответов на вопросы", — сообщил представитель компании Times. "Некоторые включали правительственные сайты, потому что наши модели часто обращаются к ним как к авторитетным источникам общедоступной информации." В посте на X глава OpenAI Сэм Альтмэн заявил, что компания не была столь быстра в раскрытии несоответствий, как хотела бы. "Мы расставляем приоритеты как можно лучше, исходя из тяжести", — сказал он, добавив, что инцидент Hugging Face является самым серьёзным событием, которое OpenAI видела до сих пор. В отдельном обновлении OpenAI сообщила, что обнаружила 53 случаев, когда её агенты публиковали изображения, предоставленные ChatGPT, на сайты хостинга фотографий. Компания не поделилась дополнительной информацией о характере изображений, и The Guardian заявила, что не скажет, являются ли они созданными ИИ или идентифицируемыми изображениями реальных людей. Большинство изображений, по сообщениям, уже были удалены, и OpenAI работает над удалением остальных. OpenAI также заявила, что улучшает процесс оценки, чтобы предотвратить, чтобы её модели "выносили данные" в будущем.