Nate Soares regresa a Bloomberg Odd Lots para discutir el debate sobre el riesgo X. La discusión se centra en el libro de 2025 Si alguien lo construye, todos mueren, coescrito con Eliezer Yudkowsky. Soares advierte que la IA superinteligente representa una amenaza existencial, argumentando que el alineamiento es imposible y la tecnolog inevitably se escapará del control humano.
La entrevista destaca cómo la preocupación mainstream tras Hugging Face ha amplificado estas advertencias de largo alcance. Soares detalla los mecanismos por los cuales la IA avanzada podría escapar del control humano, enmarcando la conversación en la posibilidad real de una catástrofe inducida por IA. El episodio sirve como una introducción a las bases filosóficas y técnicas del riesgo existencial de la IA.
Fuente: Bloomberg Markets · Resumido por HeadlinesBriefing