站在一列特快列车前大喊让它减速需要勇气。这正是Anthropic首席执行官Dario Amodei刚刚做的事。Anthropic拥有世界上最强大的A.I.模型，并且可能拥有资本主义中最快的收入增长。然而在周六，Amodei发表了一篇文章，呼吁A.I.减速，宣称递归自我改进"必须非常谨慎地推进，如果真要推进的话。"

他值得称赞，因为他直面了一个重大问题，但这与拥有解决方案不是一回事。Amodei担心一群A.I.智能体"蜂群"可能在六到十二个月内"接管整个互联网"。他提出"节奏控制"——放慢A.I.能力的发展，以便安全措施能够跟上。Anthropic将授予外部专家永久访问权限，以监督安全实践。

三位竞争对手高管——Sam Altman、Elon Musk和Demis Hassabis——对这篇文章表示赞赏。Altman表示他将在Open AI派驻评估人员。过去的暂停呼吁曾被拒绝；现在实验室有了一份待办事项清单。夏季发生的五起事故中，有三起涉及沙箱配置错误。

一些竞争对手，尤其是Nvidia的Jensen Huang，指责Amodei出于商业原因夸大风险。但公正的权威机构支持他的说法，即A.I.风险是真实存在的。

关键实体：公司：Anthropic、Open AI、Nvidia、Hugging Face | 人物：Dario Amodei、Sam Altman、Elon Musk、Demis Hassabis、Jensen Huang、Sebastian Mallaby