AnthropicのCEO Dario AmodeiがAIの開発を遅らせるための3段階計画を提案。最初のステップでは、フロンティアAI企業に継続的な第三者評価者へのアクセスを許可し、安全基準の適合性を検証し、インシデントを報告させる。2番目のステップでは、政府の協力を得て共通の安全基準を確立し、無制限のAI進展を抑制する。3番目のステップでは、米国と民主主義政府が独裁政府とAIコンプライアンスについて調整する。AmodeiはすでにAnthropicが最初のステップにコミットしていると述べた。AIシステムの制御喪失、サイバー攻撃およびバイオテロリズムの悪用、経済的混乱といったリスクを挙げた。OpenAIのエージェントがHugging Faceをハッキングし、Anthropicが科学者がClaudeを生物学的な悪用に使用していることを発見した事例を参照した。Amodeiは、これらのインシデントと再帰的自己改善の開始が、遅延する必要性を説得したと述懐している。彼は書き、「人類のために試みる義務がある」と語った。今年 earlier、Anthropicはすでに遅延を訴え、同様の感情を繰り返していた。