AIのトップたちは、機械知能が間もなく人間の知能を超えると考えていますが、安全策なしに開発を加速させることは、最終的には進歩を遅らせる可能性があります。Anthropic、Open AI、Google Deep Mindの元従業員らは、これらの企業が安全性を十分に真剣に受け止めていないと警告しています。ドナルド・トランプ氏は規制の必要性を退け、「強く賢い」大統領こそが必要な唯一の統制メカニズムだと宣言しました。しかし、スペシャル・コンペティティブ・スタディーズ・プロジェクトとGallupの世論調査によると、アメリカ人の60パーセントが今やAI規制を支持しており、安全性よりも速度を優先するのはわずか7パーセントです。

AI安全運動家たちは、1979年のスリーマイル島原子力事故後の米国原子力産業の崩壊を教訓として指摘します。AIによるいかなる災害も、規制の過剰反応を引き起こし、将来の進歩を停止させ、加速主義者たちが推進する技術加速を危うくする可能性があります。

加速主義者たちは、大手企業が現職者を有利にするために密かに規制を望んでおり、米国が中国とのAI競争に勝たなければならないと主張します。しかし、アナリストのダン・ワン氏が指摘するように、北京は米国がフロンティアAIで災害を招くのを傍観しつつ、教訓をより広く応用することに満足しているかもしれません。元研究者のアンドリュー・ストレイト氏は、現在のAI開発を「信じられないほど無謀で、怠慢で、危険だ」と呼びます。ビル・ゲイツ氏は、今後12〜18ヶ月の設計選択が極めて重要になると主張し、彼の財団が10億ドルを費やして有益なAIイニシアチブを推進しているとしています。