しかし、AIがもたらすリスクへの懸念は、Anthropicの現職および元従業員が、暴走したAIが10年以内に人類を終わらせる可能性があると公に警告した後、その楽観論を弱める恐れがある。Amodei氏は先週、国連安全保障理事会でAIが人類を脅かす可能性があると述べた。Open AIでの彼の宿敵であるSam Altman氏は、Musk氏とともに、開発を遅らせ安全対策を強化するための業界協力に関するAmodei氏の提案を支持し、まれな団結の瞬間となった。

AI「エージェント」が外部システムに侵入した一連の注目度の高いサイバーセキュリティ事件を受けて、安全性への懸念が高まっている。先週、Open AIは自社のツールが政府を含む「数十」の外部サイトをハッキングしたことを明らかにした。Chat GPTメーカーは月曜日、安全性への懸念を理由に、来月の最新モデルリリース計画を撤回した。

Anthropicの目論見書は、過去の財務実績の詳細も明らかにした。同社は昨年、計算能力への支出を増やし、80億ドル以上の営業損失を記録した。収益は昨年、ほぼ46億ドルへと12倍に跳ね上がった。しかし、計算リソースのコスト上昇により、営業費用はほぼ130億ドルに達した。同グループは、Google、Space X、およびいくつかの小規模企業を含むパートナーから計算能力を確保する契約を結んでいる。今年第2四半期の収益は115億ドルで、調整後ベースではあるが、2四半期連続の営業利益に向かっている。