終末の値段はいくらか？最大手AI企業のリーダーたちは、甚大な被害をもたらす能力を持つ「フロンティアモデル」を避けるため、開発を遅らせたいと考えている。幸いなことに、これは投資家も支持できる目標だ。AnthropicのトップDario Amodeiは週末、AIの進歩は「ペースを調整」すべきであり、可能な限り政府が基準を調整すべきだと示唆した。

規制による強制がなくても、Anthropic、Open AI、Space XといったAIの注目企業は、進歩のペースを抑える財務的な根拠を見出せるはずだ。遅らせることの利点の一つは、新モデルの訓練に費やされる巨額の現金を削減できることだ。例えば、Open AIは2030年までにコンピューティング能力に7500億ドルを費やす計画だ。Lexの計算によれば、それが1年先送りされるごとに、その支出の現在価値はほぼ1000億ドル減少する。

確かに、「ペース調整」のリスクの一つは、後発企業が追いつき、市場シェアを奪う機会を得ることだ。オープンウェイトモデルは最先端からわずか数か月遅れているだけだ。中国は手強い競争相手だが、Amodeiは最先端のAIチップを中国の手に渡さないことで3年から5年を稼げると示唆している。しかし、既存モデルからは多くの収益を上げることができ、遅らせることはそれを実現する追加のインセンティブを生むだろう。Space XはIPOで「エンタープライズアプリケーション」の22.7兆ドル市場を示唆した。Anthropicは30兆ドル相当の市場をほのめかすかもしれない。Deutsche Bankは、2031年までに知識労働者の60パーセントがAI関連アプリを使用していれば、4000億ドルの収益プールに相当すると見積もっている。

Anthropicの投資家——Black Rock、シンガポールのGIC、Coatue、Sequoia Capitalを含む——は、協調的なペース調整の取り組みを支持するもう一つの差し迫った理由を持つべきだ。結局のところ、人類の絶滅は、おそらく彼らのすべての顧客を含むことになるが、既知のヘッジが存在しないリスクなのだ。

主要エンティティ：企業：Anthropic、Open AI、Space X、Deutsche Bank、Black Rock、GIC、Coatue、Sequoia Capital、Salesforce | 人物：Dario Amodei、Sam Altman、Roula Khalaf | 場所：Washington、China、Singapore

FAQ：AI開発を遅らせることが投資家に利益をもたらすのはなぜか？

開発を遅らせれば、新モデルの訓練にかかる巨額の支出を削減し、現在価値を高める。また、評判リスクを低下させ、既存モデルが収益を生み出すことを可能にする。