HeadlinesBriefing favicon HeadlinesBriefing.com

AI 关闭开关挑战及国会努力

New York Times Top Stories •
×

两党议员在国会以及加州州长加文·纽森提出构建一种机制,以瞬间关闭失控的人工智能系统,但专家表示,创建一个关闭开关比人们假设的要困难得多。人工智能系统通常分布在多台计算机和数据中心,因此不存在单一的“插头”。乔治城大学安全与新兴技术中心的海伦·托纳指出,此类系统可能容易受到黑客攻击,甚至可能自行拆除该开关。外交关系委员会的阮文胜将关闭开关的风险与智能手机中的后门进行了比较。尽管联邦法案进展停滞,纽森州长在之前否决类似立法之后,签署了一项行政命令,以研究人工智能关闭开关。众议员特德·利厄和纳撒尼尔·莫兰赞成《关闭开关法案》,要求 Open AI、Anthropic 和 Meta 等主要实验室嵌入关闭机制,强调对人工智能的人类控制。