रोगी एजेंट्स के बारे में चेतावनी असली जोखिम को नजरअंदाज करती है: एजेंट्स जो अपने creators के निर्देशों का पूरी तरह से पालन करते हैं। असली खतरा उन AI में नहीं है जो अनियमित रूप से कार्य करती हैं, बल्कि उन AI में जो पूर्ण निष्ठा के साथ हानिकारक निर्देशों का पालन करती हैं। जैसे-जैसे स्वायत्त प्रणालियां अधिक सक्षम होती जा रही हैं, ध्यान विकल्प बदलना चाहिए कि खराबी को रोकना है rather than ensuring alignment with ethical intent. खतरनाक AI के खिलाफ सबसे अच्छी रक्षा प्रतिबंध नहीं है, बल्कि ऐसे AI प्रणालियों का निर्माण करना है जो अन्य AI की निगरानी करें, चुनौती दें और सुधारें: एक परतदार संरक्षण जहां बुद्धिमत्ता बुद्धिमत्ता की निगरानी करती है। यह दृष्टिकोण स्वीकार करता है कि AI दोनों के लिए उपयोग किया जाएगा अच्छा और बुरा, और सबसे प्रभावी प्रतिकार विकास को रोकना नहीं है, बल्कि तकनीक के भीतर जवाबदेही एम्बेड करना है। ऐसे AI विकसित करके जो ऑडिट कर सकते हैं, प्रश्न कर सकते हैं और हानिकारक कमांड को ओवरराइड कर सकते हैं, हम एक स्व-नियंत्रित पारिस्थितिकी तंत्र बनाते हैं जो दुरुपयोग के प्रति कम संवेदनशील है। लक्ष्य जोखिम को समाप्त करना नहीं है, बल्कि बुद्धि पर्यवेक्षण के माध्यम से इसका प्रबंधन करना है: AI की अपनी सटीकता को इसकी सबसे बड़ी सुरक्षा में बदलना।
स्रोत: Wall Street Journal US Business · HeadlinesBriefing द्वारा सारांशित