Nate Soares retorna ao Bloomberg Odd Lots para debater o risco X. A discussão centra-se no livro de 2025 Se alguém o constrói, todos morrem, coescrito com Eliezer Yudkowsky. Soares alerta que a IA superinteligente representa uma ameaça existencial, argumentando que o alinhamento é impossível e a tecnologia inevitavelmente escapará do controle humano.
A entrevista destaca como a preocupação mainstream após o Hugging Face ampliou esses avisos de longa data. Soares detalha os mecanismos pelos quais a IA avançada poderia escapar do controle humano, enquadando a conversa em torno da possibilidade real de uma catástrofe induzida por IA. O episódio serve como uma introdução aos fundamentos filosóficos e técnicos do risco existencial da IA.
Fonte: Bloomberg Markets · Resumido por HeadlinesBriefing