Нейт Соарес возвращается в Bloomberg Odd Labs, чтобы обсудить дебаты о риске X. Обсуждение сосредоточено на книге 2025 года «Если кто-либо построит, все умрут», написанной в соавторстве с Элайзером Юдовским. Соарес предупреждает, что сверхразумное ИИ представляет угрозу существования, утверждая, что выравнивание невозможно и технология неизбежно вырвется из-под контроля человека. Интервью подчеркивает, как после Hugging Face мейнстримная озабоченность amplified эти долгосрочные предупреждения. Соарес детализирует механизмы, с помощью которых передовое ИИ может вырваться из-под человеческого контроля, framed разговор вокруг очень реальной возможности катастрофы, вызванной ИИ. Эпизод служит введением в философские и технические основы риска существования ИИ.
Источник: Bloomberg Markets · Сводку подготовил HeadlinesBriefing