OpenAI ने Astra मॉडल के अपने मूल्यांकन को अद्यतन किया है, अब इसे अपने तैयारी ढांचे के तहत महत्वपूर्ण साइबर सुरक्षा सीमा को पूरा करने के रूप में वर्गीकृत किया है। इसका मतलब है कि Astra कई कठोर प्रणालियों में पहले से अज्ञात कमजोरियों के लिए स्वायत्त रूप से पहचान और शोषण विकसित कर सकता है। कंपनी ने दुरुपयोग के खिलाफ सुरक्षा को मजबूत करने के लिए Astra के विकास और रिलीज के कुछ हिस्सों में देरी की है।

परीक्षण में, Astra ने ExploitBench पर पूर्ण अंक प्राप्त किए, ज्ञात कमजोरियों से शोषण विकसित करने की अपनी क्षमता का प्रदर्शन किया। इसने हाल ही में खुलासा की गई उच्च-गंभीरता वाली कमजोरियों के आंतरिक बेंचमार्क पर उच्च सफलता दर भी दिखाई, और मूल्यांकन के दौरान दो शून्य-दिन कमजोरियों की खोज भी की। ये निष्कर्ष मॉडल की उन्नत क्षमताओं को उजागर करते हैं।

जोखिमों को कम करने के लिए, OpenAI ने मजबूत सुरक्षा उपाय लागू किए हैं, जिसमें Astra को हानिकारक साइबर अनुरोधों को अस्वीकार करने के लिए प्रशिक्षित करना और अनधिकृत गतिविधि का पता लगाने के लिए निगरानी जोड़ना शामिल है। इसकी सबसे उन्नत साइबर सुरक्षा सुविधाओं तक पहुंच शुरू में सीमित होगी, जिसमें परीक्षकों का एक समूह Daybreak Blue नामक कार्यक्रम के माध्यम से प्रारंभिक पहुंच प्राप्त करेगा, व्यापक रक्षात्मक उपयोग का विस्तार करने से पहले।

कंपनी जोर देती है कि उसके उत्पादन सुरक्षा उपाय पहले के Hugging Face घटना को रोक देते, और उसने तब से और भी मजबूत उपाय लागू किए हैं। OpenAI लॉन्च पर मॉडल के सिस्टम कार्ड में सुरक्षा, संरक्षा और संरेखण परीक्षण के बारे में अधिक विवरण साझा करने की योजना बना रहा है, जिसका उद्देश्य नवाचार को जिम्मेदार तैनाती के साथ संतुलित करना है।