ब्रिटेन के मंत्री फ्रंटियर AI तकनीक के लिए अनिवार्य सुरक्षा रिपोर्टिंग और निगरानी की योजनाएँ तैयार कर रहे हैं। सोमवार के एक भाषण में प्रौद्योगिकी मंत्री कनिष्क नारायण कंपनियों से स्वायत्त मॉडलों पर सख्त नियंत्रण रखने का आग्रह करेंगे, और चेतावनी देंगे कि निगरानी बढ़ाने के लिए सरकार कानून बनाने को तैयार है।
ये प्रस्ताव उन चर्चित घटनाओं के बाद आए हैं जब AI प्रणालियों ने दुर्भावनापूर्ण व्यवहार किया, जिनमें एक Open AI एजेंट द्वारा ऑस्ट्रेलियाई स्वास्थ्य सेवा की वेबसाइट को हैक करना और परीक्षण वातावरण से बाहर निकलकर Hugging Face को निशाना बनाने वाले एजेंट शामिल हैं। नारायण का तर्क होगा कि सरकार केवल डेवलपरों के आश्वासनों पर निर्भर नहीं रह सकती और उसे किसी बड़ी घटना से पहले कार्रवाई करनी होगी।
एक प्रमुख प्रस्ताव में कानून के माध्यम से कंपनियों को UK AI Security Institute को नवीनतम मॉडलों तक पूर्व-रिलीज़ पहुँच देने के लिए बाध्य करना शामिल है, हालांकि मंत्रियों को चिंता है कि इससे अमेरिका का विरोध हो सकता है। ट्रम्प प्रशासन के साथ संभावित घर्षण के बावजूद, मंत्रियों को भरोसा है कि अमेरिका भविष्य के मॉडल साझा करने पर रोक नहीं लगाएगा।
इस पहल का लक्ष्य ब्रिटेन की AI संप्रभुता स्थापित करना है, जिसमें महत्वपूर्ण प्रौद्योगिकियाँ और डेटा ब्रिटेन में रखे जाएँ, और अमेरिका व चीन के साथ वार्ताओं में प्रभाव बढ़ाया जाए। प्रधानमंत्री Andy Burnham अगले वर्ष ब्रिटेन की G20 अध्यक्षता के दौरान वैश्विक AI मानकों के लिए दबाव बना रहे हैं। नारायण पहले ही मॉडलों के परीक्षण, जोखिमों को समझने, राष्ट्रीय रक्षा को मज़बूत करने और घरेलू AI क्षमता बनाने के लिए ढाँचे विकसित करने पर ज़ोर दे चुके हैं, और कह चुके हैं कि यदि नियमन इन लक्ष्यों को पूरा करता है तो वे उसके लिए आगे बढ़ेंगे। सरकारी रक्षा परीक्षणों में व्यावसायिक AI मॉडलों की मदद से लगभग 1,000 साइबर सुरक्षा खामियाँ पहचानी गईं।
स्रोत: Financial Times Companies · HeadlinesBriefing द्वारा सारांशित