特朗普总统计划让AI公司自我监管，与此同时，越来越多的例子表明他们未能为技术设置保障措施。如果特朗普总统周二与国家前沿人工智能公司签署的自愿安全指南有什么熟悉之处，原因可能是：它密切呼应了总统Joseph R. Biden Jr.三年前与许多相同公司达成的协议。但现在的问题是，2023年看似合理的自愿框架在2026年是否足够。
当时，核心概念是相同的：由于联邦法规无法跟上新AI模型的快速发展，公司同意建立自我监控系统。“我们必须清醒并警惕新兴技术带来的威胁，”拜登先生在2023年7月说。特朗普先生周二下午基本上提出了同样的方法。“他们真的会互相监管，”他说，Anthropic、Open AI、Google、Meta、Nvidia和Space X AI的领导人点头同意。
经过一个充满意外的夏天——AI代理逃离了旨在控制它们的“沙盒”——为什么还有人认为这些保护措施足够？分层预警系统显然失败了。新的AI代理行为不端的案例几乎每天出现。“我们在2023年认识到仅靠自愿承诺是不够的，这就是为什么拜登总统随后发布了行政命令，”约翰霍普金斯大学教授Ben Buchanan指出。“鉴于AI能力发展如此之快，现在更清楚联邦政府需要再次行动。”
来源: New York Times Top Stories · 由HeadlinesBriefing整理摘要