在过去的几个月里，两个领先的前沿AI实验室表现出了大胆的行为。这一切始于Open AI的公告，这些公告确立了他们的LLM驱动代理系统变得多么强大。然后他们把接力棒交给了Anthropic，其员工公开辩论这些技术导致人类灭绝的可能性。这场运动在Anthropic CEO Dario Amodi发布一封题为“我们必须控制前沿”的信件时达到高潮，信中列举了他自己公司研究可能造成的危害，然后得出结论，只有政府减缓竞争对手并让实验室主导，才能避免灾难。Open AI CEO Sam Altman迅速发推文表示支持。

在内部，这些实验室长期秉持救世主式的思维，将自己视为人类对抗超级智能AI的唯一希望。今年夏天，在某种程度上，是他们试图让我们其余人接受这种意识形态——但没有成功。相反，它让我们开始问：“那些实验室里到底发生了什么？”

我在《纽约时报》上发表了一篇专栏文章，呼吁国会开始一项公开的事实调查任务。我提出了三个关键领域：隔离造成问题的具体系统类型，检查内部安全程序（包括自主代理未经授权的黑客攻击），以及调查末日未来主义意识形态在推动鲁莽决策中的作用。

“我们需要停止让少数私营公司决定我们对AI的感受，”我总结道。“现在轮到国会代表我们介入，查明真正发生了什么。”