Anthropic的拟议AI安全立法仅在极端条件下触发——具体为AI模型导致50人死亡或10亿美元损失——从而有效授予商务部独家权力暂停AI部署。该法案设定了干预的极高门槛，除非发生灾难性伤害，否则不联邦机构可以介入停止潜在危险的AI系统。批评者认为，这种设计在阻止伤害发生前几乎毫无用处，因为它等待不可逆的损害发生。该提案反映了关于如何监管快速发展的AI以避免扼杀创新的更广泛辩论，但引发了关于问责制和公共安全的严重担忧。通过将干预与如此严重的结果挂钩，该法案可能未能解决诸如广泣错误信息、经济中断或渐进式社会危害等风险，这些风险未达到死亡或损害门槛。然而，支持者认为，设定高门槛可防止过度反应，并确保监管行动仅在可证明的大规模伤害之后进行。该立法凸显了在促进技术进步与建立有意义保障之间的紧张关系。
来源: Hacker News · 由HeadlinesBriefing整理摘要