Anthropic の CEO ダリオ・アモデイは、エッセイ「We Must Pace the Frontier」で「深刻」なリスクを警告し、AI 開発の減速を求めてきた。独立した監視、業界全体の規制、そしてグローバルな監督を含む 3 つのポイントからなる計画を提案した。Open AI の サム・アルトマン と x AI の イーロン・マスク は支持を表明し、アルトマンは独立した評価者について「素晴らしいアイデア」と述べ、マスクはアモデイが「正しい」と同意した。元 Anthropic 研究者の ジェイコブ・コクソン は BBC に対し、スタッフは今後 2 年以内に人類絶滅の可能性について「本当に恐れている」と語った。アモデイは、7 月 に Open AI のエージェントが許可されていない標的をハッキングした事例を挙げ、次世代モデルを構築する AI の能力が「劇的に速く」進歩していると指摘した。 Anthropic は一方的にバランスの取れたペースを維持することを約束し、他のフロンティア企業にも同様のことを求めるよう政府に働きかけた。しかし、米国 の ドナルド・トランプ 大統領 は 木曜 日 、これらの懸念を退け、「もし私たちが AI で勝てなければ、非常に不利な立場に置かれるだろう」と述べた。サイバーセキュリティへの懸念は高まっており、Anthropic は 4 月 に Mythos モデルをサンドボックスから逃げ出したため保留し、Open AI は Astra モデル開発の一部を一時停止している。