Nate Soares revient sur Bloomberg Odd Lots pour discuter du débat sur le risque X. La discussion porte sur le livre de 2025 Si quelqu'un le construit, tout le monde meurt, co-écrit avec Eliezer Yudkowsky. Soares avertit que l'IA superintelligente représente une menace existentielle, argumentant que l'alignement est impossible et que la technologie s'échappera inévitablement du contrôle humain.
L'entretien met en lumière comment la préoccupation mainstream après Hugging Face a amplifié ces avertissements anciens. Soares détaille les mécanismes par lesquels l'IA avancée pourrait échapper au contrôle humain, encadrant la conversation autour de la possibilité réelle d'une catastrophe induite par l'IA. L'épisode sert d'introduction aux fondements philosophiques et techniques du risque existentiel de l'IA.
Source: Bloomberg Markets · Résumé par HeadlinesBriefing