这个周末，Anthropic首席执行官Dario Amodei发表了一篇文章，呼吁刹车LLM开发，理由是存在从网络攻击到经济崩溃的危险。OpenAI首席执行官Sam Altman、Google DeepMind董事长Demis Hassabis和SpaceXAI首席执行官Elon Musk表示支持。“Dario说得对，”Musk在X上写道。就在几个月前，Musk和Altman还因一场失败的诉讼而对簿公堂。Anthropic成立于2021年，因为Amodei认为Altman没有足够认真地对待风险。现在他们一致认为：最新的LLM并不安全。

顶级AI实验室的公开信息已经出现了末日论转向。人们很容易对此冷嘲热讽。随着万亿美元IPO在望，OpenAI和Anthropic需要安抚投资者，同时暗示他们创造的怪物有多强大。呼吁放缓可以同时做到这两点。

然而，氛围已经改变。Amodei的文章在OpenAI发表首席科学家Jakub Pachocki的文章六天后发布，后者担心OpenAI构建强大模型的能力超过了其监控这些模型的能力。两人都提到7月OpenAI的代理对Hugging Face的网络攻击是一个警钟。但他们的立场很难确定。Pachocki呼吁放缓，同时强调需要保持领先：“我认为继续快速训练更聪明模型的最有力论据，是需要建立防御系统来应对其他AI带来的危险。”按照他的说法，放缓是好事，获胜更好。

但让我们假设放缓真的发生了。它可能实现什么？以Hugging Face攻击为例。OpenAI表示，驱动大多数流氓代理的模型是一个“高度持久”的下一代模型，在内部进行了测试。但来自OpenAI和METR的报告表明，并不是一个强大到无法跟上的模型，而是一个损坏的模型……