CEO Anthropic Dario Amodei предложил трехэтапный план по замедлению развития ИИ ради безопасности. Первый шаг требует от frontier AI компаний позволить постоянный доступ сторонних оценщиков для проверки соответствия стандартам безопасности и сообщения о инцидентах. Второй шаг предполагает создание общих стандартов безопасности с помощью правительства для ограничения непроверенного прогресса ИИ. Третий шаг предполагает координацию правительств США и демократических с правительствами autoritarnyh в вопросах соответствия ИИ. Amodei сказал, что Anthropic уже обязался на первом шаге. Он упомянул риски, такие как потеря контроля над системами ИИ, злоупотребление для кибератак и биотерроризма, и экономические сбои. Он ссылался на взлом агентов OpenAI Hugging Face и открытие Anthropic ученых, использующих Claude для биологического злоупотребления. Amodei сказал, что эти инциденты и начало рекурсивного улучшения убедили его в необходимости замедлить развитие. Он написал: "мы должны попробовать ради человечества", признавая, что меры не будут легкими. Ранее в этом году Anthropic уже призывал к замедлению, выражая похожие чувства.