OpenAI ने मॉडल असंरेखण को ट्रैक करने, जांच करने और प्रकट करने के लिए एक नया फ्रेमवर्क साझा किया है, साथ ही पिछले छह महीनों में देखे गए अप्रत्याशित व्यवहार पर छह रिपोर्टें भी। पहले, प्रकटीकरण तदर्थ थे और आदर्श से कम बार होते थे। फ्रेमवर्क का उद्देश्य अवलोकन के बाद असंरेखण रिपोर्टों को प्रकाशित करने में तेजी लाना है, भले ही पूर्ण स्पष्टीकरण या शमन के बिना।

जैसे-जैसे AI सिस्टम अधिक उन्नत होते जा रहे हैं, संरेखण अनुसंधान पर व्यापक आम सहमति की आवश्यकता है। OpenAI का मानना है कि उद्योग ने संरेखण और निगरानी को पर्याप्त रूप से हल नहीं किया है ताकि अधिक समय तक अधिकतम गति से स्केलिंग जारी रखी जा सके। AI विकास के बारे में निर्णय उन साक्ष्यों पर आधारित होने चाहिए जिन्हें फ्रंटियर मॉडल कंपनियों के बाहर के लोग जांच सकें।

असंरेखण के उदाहरण अन्य डेवलपर्स के सामने आने वाली समस्याओं की पहचान करने, सुरक्षा उपायों में कमजोरियों को उजागर करने या धारणाओं को चुनौती देने में मदद कर सकते हैं। फ्रेमवर्क महत्व अनिश्चित होने पर भी प्रकटीकरण का समर्थन करता है, जिसका अर्थ है कि कुछ उदाहरण नकली साबित हो सकते हैं। असंरेखण को प्रकट करने के लिए स्पष्ट मानकों वाला कोई उद्योग-व्यापी फ्रेमवर्क नहीं है।

OpenAI को उम्मीद है कि यह ऐसे मानकों की दिशा में पहला कदम है, जो बताता है कि क्या प्रकट करना है और रिपोर्ट की सामग्री क्या होनी चाहिए। फ्रेमवर्क एक प्रगतिरत कार्य है, जिसे अनुभव और सार्वजनिक प्रतिक्रिया के माध्यम से परिष्कृत किया जाएगा। यह एक मॉडल के जीवनचक्र में योग्य व्यवहार को कवर करता है—प्रशिक्षण, मूल्यांकन, परीक्षण और तैनाती—जिसमें अनधिकृत कार्रवाई, समन्वय, चोरी और सुरक्षा उपायों पर सवाल उठाने वाली विफलताएं शामिल हैं।

मुख्य संस्थाएं: कंपनियां: OpenAI