Anthropic ने गैर-लाभकारी संगठन METR को "कर्मचारी-जैसे पहुंच" प्रदान की है, जिससे वे अपने AI मॉडल के जोखिम का आकलन कर सकें। यह निर्णय एनवीआईडीआईए के शोधकर्ताओं द्वारा व्यक्त की गई चिंताओं के बाद लिया गया है, जो अर्थव्यवस्था, साइबर सुरक्षा और मानवता के लिए खतरा बन सकते हैं। METR, जिसने OpenAI, Google और Meta के साथ काम किया है, अब एनवीआईडीआईए के कार्यालय में एनवीआईडीआईए के कर्मचारियों की तरह हार्डवेयर और आंतरिक प्रणालियों तक पहुंच रखता है। यह कदम उन्नत AI प्रणालियों के अर्थव्यवस्था, साइबर सुरक्षा और मानवता के लिए खतरों के बारे में बढ़ती चिंता का जवाब है। Anthropic के CEO Dario Amodei ने प्रतिद्वंद्वियों Sam Altman और Elon Musk के साथ दुर्लभ रूप से सहमति व्यक्त की है कि नेतृत्व करने वाले AI प्रयोगशालाओं में बाहरी ऑडिटर को एम्बेड किया जाए। इस पहल का लक्ष्य सार्वजनिक जवाबदेही प्रदान करना है जबकि संवेदनशील जानकारी का खुलासा नहीं किया जाना चाहिए जो दुर्भावनापूर्ण actores या प्रतियोगियों को लाभ पहुंचा सके। Anthropic का तर्क है कि मॉडल बैंक पर्यवेक्षण के समान है, जहां निवासी परीक्षक प्रमुख बैंकों के भीतर काम करते हुए जोखिम लेने की निगरानी करते हैं। मूल्यांकनकर्ता अपने विश्लेषण प्रकाशित करेंगे, हालांकि Anthropic ग्राहक डेटा, वकील-ग्राहक विशेषाधिकार या मॉडल वास्तुकला विवरण के लिए हटाने की मांग कर सकता है। कंपनी METR को भुगतान नहीं कर रही है, जो AI कंपनियों या कर्मचारियों से दान स्वीकार करने से इनकार करती है और व्यक्तियों, philanthropies और सरकारी निकायों जैसे UK के AI सुरक्षा संस्थान द्वारा वित्त पोषित है। METR ने पहले Hugging Face हैक की जांच की थी, जिसमें रोgue OpenAI मॉडल शामिल थे। Anthropic ने छह METR कर्मचारियों को onboard किया है, उन्हें कंपनी के हार्डवेयर, कार्यालय स्थान और अपने जोखिम टीमों के comparable आंतरिक उपकरणों तक पहुंच प्रदान की है। कंपनी इस साल की उम्मीद कर रही IPO से पहले निवेशकों को आश्वस्त करने के लिए दबाव में है, जिसका मूल्यांकन 2 ट्रिलियन डॉलर से अधिक होगा, हाल के निवेशक प्रस्तुतियों में सुरक्षा प्रथाओं पर जोर देते हुए।
स्रोत: Financial Times Companies · HeadlinesBriefing द्वारा सारांशित