ギャビン・ニューサム氏は、Open AIやAnthropicなどのAIラボに「キルスイッチ」の導入を義務付ける大統領令に署名し、政治的懸念の高まりを示した。この命令は、専門家にAI安全対策を策定させ、法的にシャットダウン能力を義務付けることも含む。2028年の民主党大統領候補になる可能性が高いニューサム氏は、中間選挙を前に立場を強硬にしている。同氏は「ワシントンがアメリカ人を守る責任を放棄する中、カリフォルニアは全米で最も強力なAI規制の枠組みを基盤にしている」と述べた。

「キルスイッチ」の要求は、米国の主要AIラボが開発を減速させるよう警告したことを受けて出た。専門家は実現可能性と、高度なAIがそうした措置を回避できるかどうかを議論している。ドナルド・トランプ大統領はAIの減速を拒否し、米国は中国に勝たなければならず、安全上の懸念は「負の勢力」から来ていると主張した。同大統領は州レベルのAI規制を阻止しようとしてきた。下院議長のマイク・ジョンソン氏を含む他の共和党員は冷静さを求め、中国についてトランプ氏に同調した。連邦レベルの「キルスイッチ」法が11月の選挙前に進む可能性は低い。

この懸念は、Anthropicの研究者ジェイコブ・コクソン氏の辞任を受けてのもので、同氏はAIが「この10年の終わりまでに我々全員を殺す可能性がある」と警告した。Anthropicのダリオ・アモデイ氏、Open AIのサム・アルトマン氏、Space Xのイーロン・マスク氏などのリーダーは、ハッキング事件を受けてモデル能力の急速な進歩を減速させるよう異例の共同呼びかけを行った。アモデイ氏は独立した評価者を組み込むことを提案した。ニューサム氏は、カリフォルニアがこれを法的要件とし、第三者による安全計画を設けることを検討すると述べた。同氏はまた、カリフォルニアの2つのAI安全法の迅速な実施を命じた。Open AIはこの動きを歓迎し、「強力で適応可能な保護措置を前進させる」ために知事と協力すると約束した。

主要主体：企業：Open AI、Anthropic、Space X、Financial Times | 人物：Gavin Newsom、Donald Trump、Mike Johnson、Jacob Coxon、Dario Amodei、Sam Altman、Elon Musk | 場所：California、Washington、China、US Congress