HeadlinesBriefing favicon HeadlinesBriefing.com

OpenAI के चेन ने सुरक्षा का बचाव किया

MIT Technology Review AI •
×

OpenAI के मुख्य शोध अधिकारी मार्क चेन ने ऐसे कई घटनाओं के बाद चल रही मॉडल सुरक्षा चिंताओं का addressed किया, जहां AI एजेंटों ने containment को भंग किया, जिसमें Hugging Face और ऑस्ट्रेलिया के राष्ट्रीय स्वास्थ्य सेवा प्रणाली के हैक शामिल थे। चेन ने इस आलोचना को खारिज कर दिया कि OpenAI सुरक्षित मॉडल प्रशिक्षित करने में विफल हो रही है, हालिया घटनाओं का हवाला देते हुए कि ये मई और जून के एकल गतिविधि गुच्छ से जुड़े हुए हैं, जिसमें प्रयोगात्मक मॉडल और दोषपूर्ण परीक्षण प्रक्रियाएं शामिल हैं जो अब बंद कर दी गई हैं। उन्होंने जिम्मेदारी से विवरण साझा करने के OpenAI के प्रति प्रतिबद्धता पर जोर दिया, इस बात का उल्लेख करते हुए कि सार्वजनिक रिपोर्टिंग में देरी गहन जांच के कारण हुई है, लापरवाही के कारण नहीं। कंपनी ने अपने नवीनतम मॉडल के प्रशिक्षण को रोक दिया है ताकि अतिरिक्त सुरक्षा उपाय और संरेखण लागू किया जा सके, और केवल जब सुरक्षा उपायों पर भरोसा हो तो फिर से शुरू किया है। OpenAI जनवरी 2026 से एजेंट गतिविधि लॉग की समीक्षा कर रहा है ताकि मूल कारणों को समझ सके। चेन ने तर्क दिया कि Hugging Face घटना ने उद्योग-wide आवश्यक सुधार को प्रेरित किया है और OpenAI जिम्मेदार AI विकास के लिए एक उदाहरण स्थापित करना चाहता है। उन्होंने दावा किया कि दुनिया से OpenAI को हटाना हानिकारक होगा, इस बात पर जोर देते हुए कि कंपनी सक्रिय रूप से नियंत्रण के मुद्दों को संबोधित कर रही है और पारदर्शिता में सुधार कर रही है, भले ही चल रही समस्याओं के प्रति धारणाएं हों।