Bloomberg Odd Lots主持人Joe Weisenthal和Tracy Alloway采访了Machine Intelligence Research Institute主任Nate Soares，就失控超级智能AI的危险进行了讨论。自Hugging Face事件以来，AI末日担忧已进入主流。他们2025年的著作《If Anyone Builds It, Everyone Dies》中，Soares和Eliezer Yudkowsky概述了人类不可避免的灭亡愿景。Soares认为将超级智能AI与人类价值观对齐是不可能的，解释了随着技术的进步，这项技术可能会变得不可控制。本次讨论探讨了为什么这些曾经小众的警告，如今感觉如此紧迫，因为AI能力正在激增。本次对话强调了X-risk（存在风险）辩论从理论走向紧迫的公共话题的转变。
来源: Bloomberg Markets · 由HeadlinesBriefing整理摘要