कृत्रिम बुद्धिमत्ता अब क्षुद्रग्रह प्रभाव, महामारी और परमाणु युद्ध के साथ अस्तित्वगत खतरे के रूप में खड़ी है, जिससे तीव्र सार्वजनिक चिंता पैदा होती है। हालिया सुर्खियां एक शोधकर्ता के Anthropic से इस्तीफे को उजागर करती हैं, जो चेतावनी देते हैं कि सुपरस्मार्ट मशीनें मानव नियंत्रण से बच सकती हैं। विशेषज्ञ ध्यान देते हैं कि जबकि एआई को खराब समझा जाता है और इसे अनियंत्रणीय माना जाता है, कई पारंपरिक जोखिम — जैसे कार दुर्घटनाएं — वास्तव में जितनी दिखाई देती हैं उससे कम खतरनाक हैं। अल्पकालिक चिंताओं में एआई द्वारा दुर्भावनापूर्ण अभिनेताओं को जैविक हथियार बनाने में सहायता करना शामिल है, क्योंकि Anthropic ने हाल ही में ऐसे कई प्रयासों को विफल किया है। दीर्घकालिक भय में एआई को अधिक स्वायत्तता देना, इसे महत्वपूर्ण बुनियादी ढांचे से जोड़ना, और संभावना शामिल है कि भविष्य के सिस्टम शटडाउन का विरोध कर सकते हैं। Oren Etzioni जैसे विद्वान जोर देते हैं कि वर्तमान एआई जोखिम सट्टा बने हुए हैं और वायरस के प्रकोप जैसे तत्काल खतरों से बहुत नीचे हैं। यहां तक कि एंथ्रेक्स, एक ज्ञात जैविक हथियार, दर्शाता है कि कैसे निवारक रणनीतियां जानबूझकर खतरों को कम कर सकती हैं, यह सुझाव देते हुए कि एआई पर घबराहट जोखिम प्रबंधन की स्थापित रणनीतियों को नजरअंदाज कर सकती है।

लेख रेखांकित करता है कि जबकि एआई नए प्रकार का भय पैदा करती है, मानवता पहले से ही अस्तित्वगत खतरों की एक सूची का सामना करती है, जिनमें से कई बेहतर समझे जाते हैं और अधिक आसन्न हैं।