Anthropic ने घोषणा की है कि उसने MET R की एक टीम को कर्मचारी जैसी पहुंच देना शुरू कर दिया है। MET R एक गैर-लाभकारी संस्था है जो अग्रणी AI मॉडलों का मूल्यांकन करती है। MET R अपने जोखिम आकलन के नतीजे प्रकाशित करेगी। यह कदम कंपनी की उस प्रतिबद्धता के अनुरूप है जिसके तहत वह अपने मॉडलों और सुरक्षा प्रथाओं के स्वतंत्र, तृतीय-पक्ष मूल्यांकन को मजबूत करेगी, और साथ ही 'सुपर इंटेलिजेंस पर व्हाइट हाउस समझौते' पर हस्ताक्षर करने के अनुरूप है, जिसमें कंपनियों ने स्वतंत्र बाहरी ऑडिटरों या मूल्यांकनकर्ताओं के साथ साझेदारी करने का वचन दिया।
पिछले एक वर्ष में Anthropic ने अपनी जोखिम रिपोर्टों की कई समीक्षाओं में MET R के साथ काम किया है। कंपनी Secure Bio और Accenture के साथ भी मूल्यांकनकर्ता के रूप में काम कर रही है, और Hugging Face सहित कई अन्य संगठनों के साथ प्रारंभिक चर्चा में है। Anthropic का कहना है कि जैसे-जैसे मॉडल अधिक शक्तिशाली हो रहे हैं, उन्हें मजबूत सुरक्षा उपायों और अधिक चुनौतीपूर्ण जोखिम आकलन की आवश्यकता है, और कंपनी अपने निर्णयों के लिए सार्वजनिक रूप से जवाबदेह रहना चाहती है। चूंकि कुछ सुरक्षा जानकारी दुर्भावनापूर्ण तत्वों के लिए उपयोगी हो सकती है या वाणिज्यिक रूप से संवेदनशील है, इसलिए कंपनी तृतीय-पक्ष मूल्यांकनकर्ताओं को गहरी पहुंच देती है और उनसे साक्ष्य तथा तर्कसंगत निष्कर्ष साझा करवाती है।
योग्यता के लिए मूल्यांकनकर्ताओं में अग्रणी मॉडलों के आकलन की विशेषज्ञता, जिन कंपनियों का वे मूल्यांकन करते हैं उनसे स्वतंत्रता, जोखिमों का सार्थक आकलन करने के लिए पर्याप्त पहुंच, और अपने निष्कर्ष प्रकाशित करने की स्वतंत्रता होनी चाहिए। Anthropic इस दृष्टिकोण की तुलना बैंक पर्यवेक्षण से करती है, जहां नियामक सबसे बड़े बैंकों के भीतर निवासी निरीक्षक तैनात करते हैं।
Anthropic ने MET R के छह कर्मचारियों को कंपनी के हार्डवेयर, कार्यालय स्थान और आंतरिक उपकरणों तक पहुंच के साथ शामिल किया है, जो लगभग उन्हीं स्तर की है जो उसकी अपनी जोखिम आकलन टीमों के पास है। Anthropic प्रकाशन पर वीटो नहीं कर सकती, लेकिन ग्राहक डेटा, विशेषाधिकार प्राप्त जानकारी या मॉडल आर्किटेक्चर जैसी संकीर्ण, पूर्व-निर्धारित श्रेणियों में संशोधन (रिडैक्शन) की मांग कर सकती है। कंपनी का कहना है कि यह व्यवस्था अन्य संगठनों के लिए उसकी या उसके ग्राहकों और साझेदारों की जानकारी प्राप्त करने का माध्यम नहीं है।
स्रोत: Hacker News · HeadlinesBriefing द्वारा सारांशित