過去数ヶ月にわたり、2つの主要な最先端AI研究所は大胆な行動を示してきました。それはOpen AIの発表から始まり、彼らのLLM搭載エージェントがどれほど強力になったかを確立しました。その後、彼らはバトンをAnthropicに渡し、その従業員は人類絶滅の可能性について議論しました。このキャンペーンは、AnthropicのCEOであるDario Amodiが「フロンティアを制御しなければならない」という手紙を発表し、自社の研究が引き起こす可能性のある害を列挙し、政府が競合他社を遅らせ、研究所が主導することを許す場合にのみ大惨事を回避できると結論付けたことで最高潮に達しました。Open AIのCEOであるSam Altmanはすぐにツイートで支持を表明しました。

内部的には、これらの研究所はメシア的思考を受け入れ、自らを人類の唯一の希望と位置づけています。この夏は、ある意味で、私たちをこのイデオロギーに引き込もうとする彼らの試みでしたが、それはうまくいきませんでした。代わりに、私たちは「これらの研究所で一体何が起こっているのか？」と問いかけるようになりました。

私は_The New York Times_に論説を発表し、議会に公的な事実調査ミッションを開始するよう求めました。私は3つの重要な分野を提案しました：問題を引き起こしている特定のシステムを分離すること、内部の安全手順（自律エージェントによる不正なハッキング攻撃を含む）を調査すること、そして無謀な決定を推進する終末論的未来主義イデオロギーの役割を調査することです。

「私たちは、少数の民間企業がAIについての私たちの感情を左右することを許すのをやめる必要があります」と私は結論付けました。「今こそ議会が私たちの代わりに介入し、実際に何が起こっているのかを調査する番です。」