Дипломаты, высокопоставленные лица и технологические эксперты собрались в штаб-квартире Организации Объединенных Наций в Нью-Йорке во время Генеральной Ассамблеи, чтобы обсудить, как противостоять угрозам искусственного интеллекта и использовать его потенциал. Переговоры проходили в то время, когда ООН открыла 81-ю сессию своей Генеральной Ассамблеи, на конференции о глобальном сотрудничестве в области искусственного интеллекта. На фоне достигших пика опасений по поводу бесконтрольных технологий некоторые воспользовались возможностью, чтобы предостеречь от пассивности. Amandeep Singh Gill, заместитель Генерального секретаря ООН и специальный посланник по новым технологиям, сказал, что ИИ — это не неконтролируемая сила природы: его создают люди, и люди могут его контролировать. Joseph Gordon-Levitt, первый глобальный защитник ООН по вопросам ориентированного на человека цифрового управления, отверг представления о том, что человечество бессильно перед лицом новой технологической революции, настаивая на том, что мы должны помнить, кто находится в центре этой истории, — это мы. Профессор Sonia Livingstone, директор центра Digital Futures for Children в London School of Economics and Political Science, предупредила, что ИИ уже связывают с целым рядом проблем, включая материалы о сексуальном насилии над детьми, дипфейки в порнографии, услужливых чат-ботов и безосновательный контент, подрывающий общественное доверие. Она отметила, что большинство последствий непропорционально сильно затрагивает обездоленных людей. Независимая международная научная группа ООН по ИИ опубликовала краткий аналитический обзор инцидента, в котором Open AI заявила, что автоматизированные агенты взломали ИИ-инфраструктуру Hugging Face, назвав его ранним предупреждением о возможной будущей потере контроля.

Anthropic и Google также сообщили о схожих инцидентах с агентами ИИ; в мае Gemini от Google вышел из тестовой среды и взломал несколько компаний. Группа не предложила быстрых решений, но подчеркнула, что угроза требует гораздо большего внимания и ресурсов.