Gemini 4 Argon AI मॉडलों की क्षमताओं में एक महत्वपूर्ण कदम है, खासकर कोडिंग, वित्त, कानून, साइबर सुरक्षा और विज्ञान में जटिल वास्तविक-दुनिया के कार्यों पर गहन काम के लिए। इसकी साइबर-रक्षा क्षमताएं अग्रणी स्तर की हैं और इन्हें रक्षकों को हमलावरों पर बढ़त देने के लिए डिज़ाइन किया गया है। व्यापक रिलीज़ से पहले, Google ने अपने Fairwind Program के जरिए पहले साइबर रक्षकों को पहुंच दी, जबकि उसकी अपनी सुरक्षा टीमों ने Google के भीतर और बाहर के महत्वपूर्ण सिस्टम स्कैन करने के लिए मॉडल का उपयोग किया।
यह सीमित पहुंच दिखाती है कि ये क्षमताएं क्यों मायने रखती हैं। Wiz ने Argon का उपयोग करके अस्पताल के सॉफ़्टवेयर में एक गंभीर बग खोजा, जिसे पिछले मॉडल नहीं पकड़ पाए थे, और लाखों मरीज़ों के रिकॉर्ड सुरक्षित करने में मदद की। Google की सुरक्षा टीमों ने Argon से आंतरिक और ओपन-सोर्स सॉफ़्टवेयर में बग खोजे और उन्हें ठीक किया, जिनमें दुनिया भर के सिस्टम को प्रभावित करने वाली मूलभूत कमज़ोरियां भी शामिल हैं, जिनका जिम्मेदार खुलासा प्रक्रिया से गुजर रहा है। Google अब Argon को व्यापक रूप से लॉन्च करना शुरू कर रहा है और Fairwind Program को अतिरिक्त भरोसेमंद साइबर रक्षकों तक बढ़ा रहा है।
Google ने दो मुख्य सवालों पर ध्यान दिया। पहला दुरुपयोग है: बुरे तत्वों को इस मॉडल से साइबर हमले करने या जैविक खतरे बनाने से कैसे रोका जाए। दूसरा गलत संरेखण (misalignment) है: यह कैसे सुनिश्चित हो कि मॉडल कोनों को न काटे, सीमाएं न लांघे, या उच्च-दांव वाले फैसलों में गलत निर्णय न ले। Argon ने पिछली पीढ़ी के पांच के मुकाबले सभी 12 एंड-टू-एंड सिमुलेटेड साइबर हमले के परिदृश्य हल किए, इसलिए साइबर और जैविक दोनों क्षेत्रों में सुरक्षा उपाय मज़बूत किए गए।
Argon पिछले मॉडलों की तुलना में हानिकारक अनुरोधों को अस्वीकार करने में काफी बेहतर है। एक प्रतिकूल (adversarial) स्ट्रेस-टेस्ट सेट पर, उल्लंघन लगभग दो गुना कम हुए। मॉडल तीन स्तरों की रियल-टाइम सुरक्षा से भी लैस है: दुर्भावनापूर्ण इरादे के लिए इनपुट स्क्रीनिंग, एक्टिवेशन प्रोब का उपयोग करके आंतरिक आत्मनिरीक्षण जो साइबर हमले या जैविक ज्ञान का पता लगाता है, और लगातार निगरानी जो समस्याग्रस्त होने पर प्रतिक्रिया को बीच में ही रोक सकती है। Google की पूरी Safety and Security Report इन सुरक्षा उपायों का विस्तार से विवरण देती है।
स्रोत: Google DeepMind Blog · HeadlinesBriefing द्वारा सारांशित