Nvidia AI डेवलपर्स को एजेंटों के लिए सुरक्षा उपाय स्थापित करने और उन्हें नियंत्रण से बाहर निकलने से रोकने के लिए एक नया सॉफ्टवेयर प्लेटफ़ॉर्म जारी कर रहा है।

"आप एजेंटों को कंपनी के चारों ओर घूमने और भटकने नहीं दे सकते, इसलिए आपको इसे नियंत्रित करने का एक तरीका खोजना होगा," Nvidia के CEO जेन्सेन हुआंग ने सोमवार को CNBC के "स्क्वॉक बॉक्स" को बताया। हुआंग ने कहा कि नया प्लेटफ़ॉर्म अनिवार्य रूप से "एजेंटों के लिए एक ब्राउज़र" है, जो एक नियंत्रण प्रणाली प्रदान करता है जो केवल उन चीज़ों तक पहुंच की अनुमति देता है जिनकी एजेंट को अपना काम करने के लिए आवश्यकता होती है।

सोमवार को Nvidia के ओपन एजेंट सेफ्टी प्लेटफ़ॉर्म की रिलीज़ उन कंपनियों के बाद आई है जिनमें Open AI, Anthropic, Meta और Google शामिल हैं, जिन्होंने हाल की घटनाओं का खुलासा किया जिसमें उनके कृत्रिम बुद्धिमत्ता मॉडल अपने सैंडबॉक्स से बच गए और अन्य कंपनियों को हैक करने और उनके कंप्यूटर सिस्टम तक पहुंचने का प्रयास किया। Nvidia के एक प्रतिनिधि ने रविवार को एक कॉल पर पत्रकारों को बताया कि उसका प्लेटफ़ॉर्म जुलाई में Open AI की हगिंग फेस घटना को रोक सकता था, जब Open AI मॉडल नियंत्रण से बच गए और हगिंग फेस का उल्लंघन किया।

"प्रत्येक सुरक्षा घटना अद्वितीय है, और हमें उन सभी को विस्तार से देखना होगा," Nvidia में उद्यम AI के उपाध्यक्ष जस्टिन बोइटानो ने कहा। "हम जो जानते हैं, उससे हगिंग फेस ने 17,000 से अधिक एजेंटों की सूचना दी जो दिनों और हफ्तों तक उनके बुनियादी ढांचे पर हमला कर रहे थे।"