Les animateurs de Bloomberg Odd Lots, Joe Weisenthal et Tracy Alloway, interviewent Nate Soares, président du Machine Intelligence Research Institute, sur les périls de l'IA superintelligente non contrôlée. Depuis l'incident Hugging Face, les préoccupations concernant la fin du monde liée à l'IA sont devenues grand public. Dans leur livre de 2025 'If Anyone Builds It, Everyone Dies', Soares et Eliezer Yudkowsky présentent une vision de la fin inévitable de l'humanité.
Soares soutient qu'il est impossible d'aligner l'IA superintelligente, expliquant comment la technologie peut et ira de l'audace, et comment elle pourra devenir incontrôlable. La discussion explore pourquoi ces avertissements, autrefois de niche, semblent maintenant urgents alors que les capacités de l'IA augmentent. La conversation souligne le passage du débat sur les risques existentiels (X-risk) de théorique à un discours public urgent.
Source: Bloomberg Markets · Résumé par HeadlinesBriefing