Nate Soares重返Bloomberg Odd Lots节目,讨论关于X-risk的辩论。讨论围绕他与Eliezer Yudkowsky合著的2025年新书《If Anyone Builds It, Everyone Dies》展开。Soares警告称,超级智能AI构成了生存威胁,认为对齐(alignment)是不可能的,技术将不可避免地失控。该访谈凸显了Hugging Face之后主流社会对这一问题的关注如何放大了这些长期存在的警告。Soares详细阐述了先进AI可能逃脱人类控制的机制,将对话框定在AI引发灾难的真实可能性上。该节目作为了解AI生存风险的哲学与技术基础的入门指南。
来源: Bloomberg Markets · 由HeadlinesBriefing整理摘要