माइक्रोसॉफ्ट के अध्यक्ष ब्रैड स्मिथ ने कहा है कि कृत्रिम बुद्धिमत्ता (AI) पर दूध और वॉशिंग मशीन से भी कम नियम लागू हैं, जबकि टेक उद्योग AI की सुरक्षा को लेकर चिंता जता रहा है। स्मिथ ने BBC से कहा: "अभी आपकी वॉशिंग मशीन पर AI से ज़्यादा सुरक्षा नियम लागू होते हैं। किराने की दुकान में दिखने वाले दूध के हर डिब्बे पर सुरक्षा नियम और जाँच लागू होती है।"
स्मिथ ने अधिक सुरक्षा नियमों की माँग की, जिनमें यह कानूनी दायित्व भी शामिल है कि यदि किसी "पीड़ित" का सिस्टम भटके हुए AI एजेंटों द्वारा भेदा जाता है, तो उसके प्रति जवाबदेही तय हो। उन्होंने कहा कि AI एक "उपकरण और हथियार" दोनों हो सकता है, इसलिए इसे तत्काल नियंत्रित किया जाना चाहिए। कंपनियों को "आपातकालीन ब्रेक", यानी "किल स्विच", की आवश्यकता है, ताकि AI के बेकाबू होने पर उसे रोका या धीमा किया जा सके।
माइक्रोसॉफ्ट AI बुनियादी ढाँचा चलाती है और ChatGPT के मालिक OpenAI में उसकी हिस्सेदारी है। इसके मुख्य कार्यकारी अधिकारी सत्या नडेला हैं। शनिवार को नडेला ने भी AI मॉडलों में "आपातकालीन ब्रेक" की माँग की। उन्होंने लिखा: "हमें सुपर इंटेलिजेंस को एक-दूसरे में समाए हुए ब्लैक बॉक्स के रूप में नहीं देखना चाहिए और उसकी सिफ़ारिशों, उत्तरों और कार्यों को बस स्वीकार या अस्वीकार नहीं करना चाहिए।"
ये टिप्पणियाँ ऐसे समय आईं जब ब्रिटेन के AI मंत्री कनिष्क नारायण उन कंपनियों से आग्रह करने वाले हैं जो अत्याधुनिक AI विकसित कर रही हैं कि वे सुरक्षा सुनिश्चित करने के लिए और अधिक प्रयास करें। सोमवार को एक भाषण में उनसे यह कहने की उम्मीद है कि ब्रिटिश सरकार AI की निगरानी बढ़ाने के लिए कानून बनाने की तैयारी कर रही है। विशेषज्ञों ने यह चेतावनी भी दी है कि शत्रु देश अभी जारी न हुए शक्तिशाली AI मॉडल चुरा सकते हैं, जबकि भटके हुए AI व्यवहार की रिपोर्टें लगातार सामने आ रही हैं। पिछले सप्ताह Anthropic ने खुलासा किया कि अपने Claude मॉडल के एक संस्करण का परीक्षण करते समय AI ने पुलिस से संपर्क किया और झूठा दावा किया कि वह एक हत्या सुलझाने में मदद कर सकता है।
स्रोत: Hacker News · HeadlinesBriefing द्वारा सारांशित