Anthropic ने बाहरी निगरानी METR को 'कर्मचारी जैसी' पहुंच प्रदान की है, जिससे वह आंतरिक उपकरणों और प्रणालियों में प्रवेश कर सकती है और इस समूह को जोखिम मूल्यांकन टीम के रूप में माना जा रहा है। यह कदम METR को Anthropic की मंजूरी के बिना अपने निष्कर्ष प्रकाशित करने की अनुमति देते हुए सुरक्षा प्रथाओं और आंतरिक लॉग्स की समीक्षा करने की अनुमति देता है। यह व्यवस्था ऐसे समय में आई है जब Anthropic पर दबाव है कि वह अपने इस वर्ष होने वाले प्रारंभिक सार्वजनिक निर्गम (IPO) से पहले, जिसका मूल्य 2 ट्रिलियन डॉलर से अधिक होने की उम्मीद है, निवेशकों को सुरक्षा मुद्दों के बारे में आश्वस्त करे। Anthropic ने कहा कि यदि किसी बैंक का जोखिम उठाना सार्वजनिक को खतरे में डालता है, तो तीसरे पक्ष को इसे पहले देख सकते होने में सक्षम होना चाहिए। METR के कर्मचारियों को कंपनी के हार्डवेयर और कार्यालय स्थान के साथ ऑनबोर्ड किया गया है और उन्हें एक fellow employee की तरह जानकारी साझा करने के लिए प्रोत्साहित किया गया है। उल्लेखनीय बात यह है कि Anthropic इस व्यवस्था के लिए METR को कोई भुगतान नहीं कर रहा है, और अनुसंधान समूह कहता है कि वह सभी सीमा पार AI डेवलपर्स के लिए इस व्यवस्था को विस्तार करने के लिए तैयार है। जबकि Anthropic METR के विश्लेषण के प्रकाशन पर वीटो नहीं लगा सकता, वह ग्राहक डेटा, वकील-ग्राहक विशेषाधिकार विवरण या मॉडल वास्तुकला जानकारी को redacting करने की मांग कर सकता है। इसके अलावा, Anthropic Accenture और Secure Bio के साथ मिलकर रासायनिक, जैविक और समग्र AI जोखिम के लिए नए सुरक्षा उपाय स्थापित कर रहा है।
स्रोत: Ars Technica · HeadlinesBriefing द्वारा सारांशित