OpenAI और पोलैंड के राष्ट्रीय अनुसंधान संस्थान NASK ने AI सुरक्षा, सुरक्षा और तकनीकी अनुसंधान में सहयोग की संभावनाएँ तलाशने के लिए एक समझौते पर हस्ताक्षर किए हैं। इस साझेदारी में दोनों संगठनों की विशेषज्ञता एक साथ आएगी, ताकि उभरते जोखिमों को बेहतर ढंग से समझा जा सके, सुरक्षा उपायों को मज़बूत किया जा सके और यह पता लगाया जा सके कि उन्नत AI एक अधिक सुरक्षित और लचीले डिजिटल पारिस्थितिकी तंत्र में कैसे योगदान दे सकता है।
जैसे-जैसे AI प्रणालियाँ अधिक सक्षम होती जा रही हैं, डेवलपर्स और सार्वजनिक अनुसंधान संस्थानों के बीच अंतर्राष्ट्रीय सहयोग अनिवार्य होगा। अमेरिका के Center for Advancing Standards and Innovation for Super Intelligence (CAISSI), ब्रिटेन के AI Security Institute (AISI) और अन्य सार्वजनिक अनुसंधान संस्थानों के साथ OpenAI का मौजूदा काम पहले ही सुरक्षा उपायों को मज़बूत करने, AI एजेंटों में सुरक्षा कमज़ोरियों की पहचान और उन्हें ठीक करने, तथा फ्रंटियर AI सुरक्षा को आगे बढ़ाने में मदद कर चुका है।
इस समझौते के तहत, NASK का AI Safety Research Center, जो पोलिश Artificial Intelligence Safety Institute (AISI) के रूप में कार्य करता है, और OpenAI इस पर सहयोग करेंगे कि बढ़ती क्षमताओं वाली AI प्रणालियों का मूल्यांकन कैसे किया जाए, संभावित कमज़ोरियों की पहचान कैसे हो और सुरक्षा उपायों को कैसे मज़बूत किया जाए। OpenAI ने आह्वान किया है कि अमेरिका फ्रंटियर AI के लिए अंतर्राष्ट्रीय तकनीकी मानकों पर दुनिया भर के देशों के साथ काम करे। क्षमताओं के मूल्यांकन, जोखिमों के आकलन, सुरक्षा उपायों के परीक्षण और घटनाओं की रिपोर्टिंग के साझा तरीके देशों को साक्ष्यों की तुलना करने और सीमा-पार जोखिमों का जवाब देने में मदद कर सकते हैं।
यह समझौता पोलैंड में साइबर रक्षकों के साथ OpenAI के मौजूदा काम पर भी आधारित है। जुलाई में, NASK के भीतर काम करने वाली CERT Polska को Daybreak के ज़रिए OpenAI के साइबर-सक्षम मॉडलों तक पहुँच मिली। टीम ने OpenAI मॉडलों का उपयोग करके MikroTik RouterOS में छह कमज़ोरियों की खोज में मदद ली, जिनमें ऐसी खामियाँ भी शामिल थीं जिन्हें मिलाकर बिना प्रमाणीकरण के प्रभावित उपकरणों पर नियंत्रण पाया जा सकता था। विक्रेता ने सुधार जारी किए, और CERT Polska ने पुष्टि की कि इन सुधारों ने उसके देखे गए हमलों को रोका।
स्रोत: OpenAI Blog · HeadlinesBriefing द्वारा सारांशित