Os apresentadores de Bloomberg Odd Lots, Joe Weisenthal e Tracy Alloway, entrevistam Nate Soares, presidente do Machine Intelligence Research Institute, sobre os perigos da IA superinteligente descontrolada. Desde o incidente Hugging Face, as preocupações com o fim do mundo por IA se tornaram mainstream. Em seu livro de 2025 'If Anyone Builds It, Everyone Dies', Soares e Eliezer Yudkowsky apresentam uma visão do declínio inevitável da humanidade.
Soares argumenta que é impossível alinhar a IA superinteligente, explicando como a tecnologia pode e vai se tornar incontrolável à medida que avança. A discussão explora por que estes avisos, antes nicho, agora parecem urgentes à medida que as capacidades de IA aumentam. A conversa destaca a mudança do debate de risco existencial (X-risk) de teórico para um discurso público urgente.
Fonte: Bloomberg Markets · Resumido por HeadlinesBriefing