如果你最近开始担心人工智能安全和世界末日，那很可能是因为一封辞职信。2026年9月8日，一位名叫Jacob Coxon的研究员从Anthropic辞职，这是美国两家顶尖人工智能实验室之一，其品牌一直试图在竞争对手中塑造出谨慎的形象。此前三年，他先后在Open AI和Anthropic从事预训练研究——正是让大型模型具备能力的核心工作——他的告别信中说，除其他内容外：“构建人工智能的人们真诚地相信，它可能在本十年末杀死我们所有人。这不是营销噱头。”他在股权归属前两个月离开，放弃了那些股权。这条帖子在一天内被浏览超过一亿次。令人意外的是，他的同事们并没有急于纠正他。Anthropic对齐科学负责人Evan Hubinger在数小时内发帖称，Coxon说得对，他们确实真诚地相信人工智能可能杀死全人类，而他个人认为十年内发生的概率超过十分之一。超过二十多名国会议员表示需要采取行动。Elon Musk——他正在建设自己的前沿实验室——称整件事是一场心理战，而主流新闻媒体则不出所料地对随之而来的狂热进行了连篇累牍的报道。

为了现实地评估这一警告的严重性，我们需要了解发出警告的人。最响亮的末日警告声音来自一个非常特定的、有二十五年历史的互联网亚文化，它将自己理解为一个比其他人思考更清晰的社群。在硅谷之外，这个亚文化显得晦涩难懂，像是一个有着异常书呆子文学偏好的粉丝圈。但在科技行业内部，它绝非如此。它的作家能成就或摧毁声誉。它的校友供职于实验室、安全机构和慈善组织，这些机构决定着“人工智能安全”的含义。它的争论、婚姻、恩怨和性取向深深交织在那些如今就人类未来向公众寻求信任的组织结构中。

在Coxon辞职前十个月，即2025年12月，近五百人聚集在伯克利的一个音乐厅，举行一场关于人类可能终结的仪式。现场有一支乐队和一个二十八人的合唱团。有礼拜式的诵读。当歌曲和演讲带领全场从人类遥远的过去走向不确定的未来时，枝形吊灯一盏盏暗下。出席者中大量是试图构建或遏制人工智能的组织的员工。在最黑暗的时刻，组织者坐在舞台边缘，声音哽咽，对全场说：“伙计们……我觉得我们撑不过去了。”这位组织者是Raymond Arnold，一位网页开发者、游戏设计师、音乐家，也是理性主义社群机构的长期建设者。Arnold在天主教与无神论之间长大，年轻时发现了理性主义运动，并发现它“极大地扩展”了他感受神圣的能力。2011年，他邀请十九位朋友来到纽约的一间公寓，当晚布置了油灯、等离子球和光剑，为他们新世界观的节日做测试。他们唱起第一个冬令营火和塑造人类未来的技术，熄灭了最后一根蜡烛，一起坐在黑暗中。两年后，Arnold将这个实验变成了一场名为Brighter Than Today的公开演出。版本很快从纽约和湾区传播到北美、欧洲及其他地区的城市。Arnold最初将世俗冬至节设想为一个广泛的人文主义节日，但它成为了理性主义日历上的主要盛宴日。这并非完全偶然。他自2011年起组织这个社群，现在帮助运营Less Wrong和Lighthaven——作为其物理……的伯克利会议园区。