Nate Soares ब्लूमबर्ग ऑड लॉट्स पर X-risk बहस के बारे में वापस आते हैं। चर्चा Eliezer Yudkowsky के साथ 2025 की पुस्तक If Anyone Builds It, Everyone Dies के बारे में होती है। Soares चेतावनी देते हैं कि सुपरइंटेलिजेंट AI एक अस्तित्वकारी खतरा है, तर्क देते हैं कि alignment असंभव है और टेक्नोलॉजी अनिवार्य रूप से बेकाबू हो जाएगी। साक्षात्कार में यह दिखाया गया है कि Hugging Face के बाद मुख्यधारा की चिंता ने इन लंबित चेतावनियों को कैसे बढ़ाया है। Soares विस्तृत AI नियंत्रण से बचने के तरीकों को बताते हैं, जिससे बातचीत AI प्रेरित आपदा की वास्तविक संभावना के इर्द-गिर्द घूमती है। यह एपिसोड AI अस्तित्वकारी खतरे के दार्शनिक और टेक्निक आधारों के बारे में एक प्राथमिक गाइड के रूप में काम करता है।
स्रोत: Bloomberg Markets · HeadlinesBriefing द्वारा सारांशित