Вчерашнее выступление Sam Altman, генерального директора Open AI, и других деятелей индустрии искусственного интеллекта в Организации Объединенных Наций подчеркнуло растущую глобальную обеспокоенность этой технологией. Ожидается, что лидеры американских корпораций, включая Elon Musk, Jensen Huang из Nvidia, Jamie Dimon из JPMorgan Chase и Larry Fink из Black Rock, посетят государственный ужин в Белом доме в честь президента Китая Xi Jinping. Ожидается, что это мероприятие вызовет дебаты по вопросам безопасности ИИ, редкоземельных минералов и цен на казначейские облигации.

President Trump может пренебрежительно относиться к опасениям по поводу безопасности искусственного интеллекта, но дискуссии в ООН и тревожные новые разоблачения взломов агентами ИИ подчеркивают, что эта проблема находится в центре внимания других лидеров. Взлом правительственных систем Австралии агентами Open AI вызвал новые опасения по поводу безопасности. Премьер-министр страны Anthony Albanese заявил в среду, что в июне произошел взлом веб-сайта государственного здравоохранения, и агенты ИИ получили доступ к непубличной информации. Albanese назвал взлом «неприемлемым» и сообщил, что поднял этот вопрос перед Sam Altman.

Dario Amodei из Anthropic и Altman в среду выступили в ООН по вопросам безопасности ИИ. Руководители подтвердили свою обеспокоенность рисками потери человеческого контроля над ИИ, особенно в условиях, когда лаборатории сосредоточены на моделях, способных автономно совершенствоваться. Altman подчеркнул «прагматичный путь» к безопасности ИИ, призвав к международному сотрудничеству в области стандартов безопасности ИИ. Amodei предложил создать «узкие соглашения», которые могли бы поддержать страны, например, предотвращение использования ИИ для создания биологического оружия.