加文·纽森签署了一项行政命令，要求Open AI和Anthropic等AI实验室实施“终止开关”，此举表明政治层面的担忧日益加剧。该命令安排专家制定AI安全措施，包括在法律上要求具备关停能力。纽森很可能是2028年民主党总统候选人，他正在中期选举前强化自己的立场。“当华盛顿放弃保护美国人的责任时，加利福尼亚正在全国最严格的AI监管框架基础上继续推进，”他说。

呼吁设置“终止开关”之前，美国主要AI实验室曾警告应放缓开发。专家们对可行性以及先进AI是否能绕过此类措施存在争议。唐纳德·特朗普总统拒绝放缓AI发展，认为美国必须击败中国，而安全担忧源于“负面力量”。他曾试图阻止州级AI监管。包括众议院议长迈克·约翰逊在内的其他共和党人呼吁保持冷静，并在中国问题上附和特朗普。联邦层面的“终止开关”法律不太可能在11月选举前推进。

这一担忧出现在Anthropic研究员雅各布·考克森辞职之后，他警告AI“可能在这个十年结束前杀死我们所有人”。Anthropic的达里奥·阿莫代伊、Open AI的萨姆·奥尔特曼以及Space X的埃隆·马斯克等领导人在黑客事件后罕见地联合呼吁放缓模型能力的快速提升。阿莫代伊提议嵌入独立评估者。纽森表示，加利福尼亚将研究将此设为法律要求，并制定第三方安全计划。他还下令加快实施两项加利福尼亚AI安全法律。Open AI对此举表示欢迎，并承诺与州长合作，“推进强有力且可适应的保障措施”。

关键实体：公司：Open AI、Anthropic、Space X、Financial Times | 人物：Gavin Newsom、Donald Trump、Mike Johnson、Jacob Coxon、Dario Amodei、Sam Altman、Elon Musk | 地点：California、Washington、China、US Congress