Nate Soares が Bloomberg Odd Labs に戻り、X-risk debate を議論する。議論は Eliezer Yudkowsky との共著である2025年の本 If Anyone Builds It, Everyone Dies centers。Soares は超知能AIが存在的威脅であると警告し、アライメントは不可能で、技術は inevitably 人間のコントロールから逃げ出すと論じる。インタビューは、Hugging Face 以降の mainstream な関心が、これらの長年の警告を amplified したことを強調する。Soares は、先進的なAIが人間のコントロールから逃れるメカニズムを詳細に説明し、AIによる災害の現実的な可能性の周囲で会話を framed する。このエピソードは、AIの存在的リスクの哲学的・技術的下地を紹介するものである。
出典: Bloomberg Markets · 要約：HeadlinesBriefing