Nate Soares kehrt zu Bloomberg Odd Lots zurück, um über das X-Risiko zu diskutieren. Die Diskussion konzentriert sich auf das Buch von 2025 Wenn jemand es baut, stirbt jeder, co-autoriert mit Eliezer Yudkowsky. Soares warnt, dass superintelligente AI eine existenzielle Bedrohung darstellt und argumentiert, dass Alignment unmöglich ist und die Technologie inevitably aus der menschlichen Kontrolle entkommen wird.
Das Interview beleuchtet, wie die Mainstream-Sorge nach Hugging Face diese langjährigen Warnungen verstärkt hat. Soares details die Mechanismen, wie fortgeschrittene AI der menschlichen Kontrolle entkommen kann, und rahmt das Gespräch um die sehr reale Möglichkeit einer AI-induzierten Katastrophe. Die Folge dient als Einführung in die philosophischen und technischen Grundlagen des existenziellen AI-Risikos.
Quelle: Bloomberg Markets · Zusammengefasst von HeadlinesBriefing