An update on independent evaluators

Anthropic has announced that it has begun giving employee-like access to a team from MET R, a nonprofit that evaluates frontier AI models. MET R will publish the results of its risk assessments. The move follows the company's commitment to stronger independent, third-party assessment of its models and safety practices, and its signing of the White House Accord on Super Intelligence, in which companies pledged to partner with independent external auditors or evaluators.

Over the past year, Anthropic has worked with MET R on several reviews of its Risk Reports. The company is also working with Secure Bio and Accenture as evaluators and is in early discussions with several other organizations, including Hugging Face. Anthropic says that as models have become more powerful, they require stronger safeguards and more challenging risk assessments, and that the company wants to be publicly accountable for its decisions. Because some safety information could be useful to malicious actors or is commercially sensitive, the company is instead giving third-party evaluators deep access and having them share evidence and reasoned conclusions.

To qualify, evaluators need expertise in assessing frontier models, independence from the companies they evaluate, enough access to meaningfully assess risks, and freedom to publish their findings. Anthropic compares the approach to bank supervision, in which regulators place resident examiners inside the largest banks.

Anthropic has onboarded six MET R employees with company hardware, office space, and access to internal tools roughly on par with its own risk assessment teams. Anthropic cannot veto publication, though it can require redactions in narrow, predefined categories such as customer data, privileged information, or model architectures. The company says the arrangement is not a way for other organizations to obtain its information or that of its customers and partners.

أعلنت أنثروبيك أنها بدأت منح فريق من MET R وصولاً شبيهاً بوصول الموظفين. وMET R منظمة غير ربحية تقيّم نماذج الذكاء الاصطناعي المتقدمة، وستنشر نتائج تقييماتها للمخاطر. تأتي هذه الخطوة في إطار التزام الشركة بتعزيز التقييم المستقل من أطراف ثالثة لنماذجها وممارساتها الأمنية، وتوقيعها على ميثاق البيت الأبيض بشأن الذكاء الفائق، الذي تعهدت فيه الشركات بالشراكة مع مدققين أو مقيّمين خارجيين مستقلين.

على مدار العام الماضي، عملت أنثروبيك مع MET R في عدة مراجعات لتقارير المخاطر الخاصة بها. كما تعمل الشركة مع Secure Bio وAccenture كمقيّمين، وتجري مناقشات أولية مع عدة منظمات أخرى، من بينها Hugging Face. وتقول أنثروبيك إنه مع ازدياد قوة النماذج، تحتاج إلى ضمانات أقوى وتقييمات مخاطر أكثر تحدياً، وإن الشركة تريد أن تكون مساءلة علناً عن قراراتها. ولأن بعض المعلومات المتعلقة بالسلامة قد تكون مفيدة لجهات خبيثة أو حساسة تجارياً، فإنها تمنح المقيّمين من الأطراف الثالثة وصولاً معمقاً وتطلب منهم مشاركة الأدلة والاستنتاجات المبنية على المنطق.

ولكي يكون المقيّم مؤهلاً، يجب أن تتوافر لديه خبرة في تقييم النماذج المتقدمة، وأن يكون مستقلاً عن الشركات التي يقيّمها، وأن تتاح له إمكانية كافية للوصول تمكّنه من تقييم المخاطر بشكل فعّال، وأن تكون له حرية نشر نتائجه. وتشبّه أنثروبيك هذا النهج بالإشراف المصرفي، حيث يضع المنظّمون مفتشين مقيمين داخل أكبر البنوك.

وقد ضمّت أنثروبيك ستة موظفين من MET R، وزودتهم بأجهزة الشركة ومساحة مكتبية وإمكانية الوصول إلى الأدوات الداخلية بما يقارب ما تتيحه لفرقها الخاصة بتقييم المخاطر. ولا تستطيع أنثروبيك منع النشر، لكنها يمكن أن تطلب حجب معلومات في فئات ضيقة ومحددة مسبقاً، مثل بيانات العملاء أو المعلومات المحمية بالسرية المهنية أو بنى النماذج. وتقول الشركة إن هذا الترتيب ليس وسيلة لحصول منظمات أخرى على معلوماتها أو معلومات عملائها وشركائها.

Anthropic ঘোষণা করেছে যে তারা MET R-এর একটি দলকে কর্মীর মতো প্রবেশাধিকার দিতে শুরু করেছে। MET R একটি অলাভজনক সংস্থা, যা অত্যাধুনিক AI মডেল মূল্যায়ন করে। MET R তাদের ঝুঁকি মূল্যায়নের ফলাফল প্রকাশ করবে। এই পদক্ষেপটি কোম্পানির সেই অঙ্গীকারের ধারাবাহিকতায় এসেছে, যেখানে তারা তাদের মডেল ও নিরাপত্তা অনুশীলনের স্বাধীন, তৃতীয়-পক্ষের মূল্যায়ন জোরদার করার প্রতিশ্রুতি দিয়েছে। এটি 'সুপার ইন্টেলিজেন্স বিষয়ক হোয়াইট হাউস অ্যাকর্ড'-এ স্বাক্ষরের সঙ্গেও সম্পর্কিত, যেখানে কোম্পানিগুলো স্বাধীন বহিরাগত নিরীক্ষক বা মূল্যায়নকারীদের সঙ্গে অংশীদারিত্বের অঙ্গীকার করেছিল।

গত এক বছরে Anthropic তাদের ঝুঁকি প্রতিবেদনের কয়েকটি পর্যালোচনায় MET R-এর সঙ্গে কাজ করেছে। কোম্পানিটি Secure Bio ও Accenture-এর সঙ্গেও মূল্যায়নকারী হিসেবে কাজ করছে এবং Hugging Face সহ আরও কয়েকটি প্রতিষ্ঠানের সঙ্গে প্রাথমিক আলোচনায় রয়েছে। Anthropic বলছে, মডেল যত শক্তিশালী হচ্ছে, তত বেশি শক্তিশালী সুরক্ষাব্যবস্থা এবং আরও চ্যালেঞ্জিং ঝুঁকি মূল্যায়নের প্রয়োজন হচ্ছে, এবং কোম্পানি তাদের সিদ্ধান্তের জন্য প্রকাশ্যে দায়বদ্ধ থাকতে চায়। কিছু নিরাপত্তা-সংক্রান্ত তথ্য ক্ষতিকর ব্যক্তিদের কাজে লাগতে পারে বা বাণিজ্যিকভাবে সংবেদনশীল, তাই কোম্পানি তৃতীয়-পক্ষের মূল্যায়নকারীদের গভীর প্রবেশাধিকার দিচ্ছে এবং তাদের প্রমাণ ও যুক্তিনির্ভর সিদ্ধান্ত ভাগ করে নিতে বলছে।

যোগ্যতার জন্য মূল্যায়নকারীদের অত্যাধুনিক মডেল মূল্যায়নে দক্ষতা থাকতে হবে, তারা যে কোম্পানির মূল্যায়ন করছে তাদের থেকে স্বাধীন হতে হবে, ঝুঁকি কার্যকরভাবে মূল্যায়নের জন্য পর্যাপ্ত প্রবেশাধিকার থাকতে হবে এবং তাদের পর্যবেক্ষণ প্রকাশের স্বাধীনতা থাকতে হবে। Anthropic এই পদ্ধতিকে ব্যাংক তদারকির সঙ্গে তুলনা করে, যেখানে নিয়ন্ত্রকরা বৃহত্তম ব্যাংকগুলোর ভেতরে স্থায়ী পরিদর্শক নিয়োগ করেন।

Anthropic MET R-এর ছয়জন কর্মীকে কোম্পানির হার্ডওয়্যার, অফিস স্থান এবং অভ্যন্তরীণ টুলসের প্রবেশাধিকার দিয়ে যুক্ত করেছে, যা প্রায় তাদের নিজস্ব ঝুঁকি মূল্যায়ন দলের সমান। Anthropic প্রকাশনা আটকাতে পারে না, তবে গ্রাহকের ডেটা, আইনি বিশেষাধিকারপ্রাপ্ত তথ্য বা মডেল স্থাপত্যের মতো সংকীর্ণ, পূর্বনির্ধারিত শ্রেণিতে তথ্য সম্পাদনা (রিডাকশন) দাবি করতে পারে। কোম্পানি বলছে, এই ব্যবস্থা অন্য প্রতিষ্ঠানের জন্য তাদের বা তাদের গ্রাহক ও অংশীদারদের তথ্য পাওয়ার উপায় নয়।

Anthropic hat angekündigt, dass einem Team der MET R mitarbeiterähnlicher Zugang gewährt wird. MET R ist eine gemeinnützige Organisation, die Frontier-KI-Modelle bewertet, und wird die Ergebnisse ihrer Risikobewertungen veröffentlichen. Der Schritt folgt auf die Zusage des Unternehmens, seine Modelle und Sicherheitspraktiken durch unabhängige Dritte strenger prüfen zu lassen, sowie auf die Unterzeichnung des Weißen-Haus-Abkommens zur Superintelligenz, in dem sich Unternehmen verpflichteten, mit unabhängigen externen Prüfern oder Gutachtern zusammenzuarbeiten.

Im vergangenen Jahr hat Anthropic mit MET R mehrere Überprüfungen seiner Risikoberichte durchgeführt. Das Unternehmen arbeitet außerdem mit Secure Bio und Accenture als Gutachtern zusammen und führt erste Gespräche mit mehreren weiteren Organisationen, darunter Hugging Face. Anthropic erklärt, dass Modelle mit zunehmender Leistungsfähigkeit stärkere Schutzmaßnahmen und anspruchsvollere Risikobewertungen benötigen, und dass das Unternehmen öffentlich für seine Entscheidungen Rechenschaft ablegen möchte. Da manche sicherheitsrelevanten Informationen für böswillige Akteure nützlich sein könnten oder kommerziell sensibel sind, gewährt das Unternehmen unabhängigen Gutachtern stattdessen tiefgehenden Zugang und lässt sie Belege und begründete Schlussfolgerungen mitteilen.

Um sich zu qualifizieren, benötigen Gutachter Expertise in der Bewertung von Frontier-Modellen, Unabhängigkeit von den Unternehmen, die sie prüfen, ausreichenden Zugang, um Risiken sinnvoll zu bewerten, und die Freiheit, ihre Erkenntnisse zu veröffentlichen. Anthropic vergleicht den Ansatz mit der Bankenaufsicht, bei der Aufsichtsbehörden residente Prüfer in den größten Banken platzieren.

Anthropic hat sechs Mitarbeiter der MET R mit Firmenhardware, Büroräumen sowie Zugang zu internen Werkzeugen eingestellt, der etwa dem entspricht, was den eigenen Risikobewertungsteams zur Verfügung steht. Anthropic kann eine Veröffentlichung nicht verhindern, kann aber Schwärzungen in engen, vorab festgelegten Kategorien verlangen, etwa bei Kundendaten, anwaltlich geschützten Informationen oder Modellarchitekturen. Das Unternehmen betont, dass diese Regelung keine Möglichkeit für andere Organisationen ist, an seine Informationen oder die seiner Kunden und Partner zu gelangen.

Anthropic ha anunciado que ha comenzado a dar acceso similar al de sus empleados a un equipo de MET R, una organización sin ánimo de lucro que evalúa modelos de IA de vanguardia. MET R publicará los resultados de sus evaluaciones de riesgo. La medida sigue al compromiso de la empresa con una evaluación independiente y de terceros más rigurosa de sus modelos y prácticas de seguridad, así como a su firma del Acuerdo de la Casa Blanca sobre Superinteligencia, en el que las empresas se comprometieron a colaborar con auditores o evaluadores externos independientes.

Durante el último año, Anthropic ha trabajado con MET R en varias revisiones de sus Informes de Riesgos. La compañía también colabora con Secure Bio y Accenture como evaluadores y mantiene conversaciones preliminares con varias otras organizaciones, entre ellas Hugging Face. Anthropic afirma que, a medida que los modelos se vuelven más potentes, requieren salvaguardas más sólidas y evaluaciones de riesgo más exigentes, y que la empresa quiere rendir cuentas públicamente de sus decisiones. Como cierta información de seguridad podría ser útil para actores malintencionados o es comercialmente sensible, la compañía opta por dar a los evaluadores externos un acceso profundo y pedirles que compartan pruebas y conclusiones razonadas.

Para calificar, los evaluadores necesitan experiencia en la evaluación de modelos de vanguardia, independencia respecto de las empresas que evalúan, acceso suficiente para evaluar los riesgos de forma significativa y libertad para publicar sus conclusiones. Anthropic compara este enfoque con la supervisión bancaria, en la que los reguladores sitúan a inspectores residentes dentro de los bancos más grandes.

Anthropic ha incorporado a seis empleados de MET R con equipos de la empresa, un espacio de oficina y acceso a herramientas internas aproximadamente equivalente al de sus propios equipos de evaluación de riesgos. Anthropic no puede vetar la publicación, aunque sí puede exigir redacciones en categorías estrechas y predefinidas, como datos de clientes, información protegida por el secreto profesional o arquitecturas de modelos. La empresa afirma que este acuerdo no es una vía para que otras organizaciones obtengan su información ni la de sus clientes y socios.

Anthropic a annoncé avoir commencé à accorder à une équipe de MET R un accès semblable à celui de ses employés. MET R est une organisation à but non lucratif qui évalue les modèles d'IA de pointe, et elle publiera les résultats de ses évaluations des risques. Cette démarche fait suite à l'engagement de l'entreprise en faveur d'une évaluation indépendante et tierce plus rigoureuse de ses modèles et de ses pratiques de sécurité, ainsi qu'à sa signature de l'Accord de la Maison-Blanche sur la superintelligence, par lequel les entreprises s'engageaient à collaborer avec des auditeurs ou évaluateurs externes indépendants.

Au cours de l'année écoulée, Anthropic a travaillé avec MET R sur plusieurs révisions de ses rapports sur les risques. L'entreprise collabore également avec Secure Bio et Accenture en tant qu'évaluateurs et mène des discussions préliminaires avec plusieurs autres organisations, dont Hugging Face. Anthropic affirme qu'à mesure que les modèles gagnent en puissance, ils exigent des garanties plus solides et des évaluations des risques plus poussées, et que l'entreprise souhaite rendre compte publiquement de ses décisions. Certaines informations relatives à la sécurité pouvant être utiles à des acteurs malveillants ou revêtir un caractère commercial sensible, l'entreprise accorde plutôt aux évaluateurs tiers un accès approfondi et leur demande de partager leurs preuves et leurs conclusions argumentées.

Pour être admissibles, les évaluateurs doivent posséder une expertise dans l'évaluation des modèles de pointe, être indépendants des entreprises qu'ils évaluent, disposer d'un accès suffisant pour évaluer réellement les risques et être libres de publier leurs conclusions. Anthropic compare cette approche à la supervision bancaire, dans laquelle les régulateurs placent des inspecteurs résidents au sein des plus grandes banques.

Anthropic a intégré six employés de MET R, en leur fournissant du matériel de l'entreprise, un espace de bureau et un accès aux outils internes à peu près équivalent à celui de ses propres équipes d'évaluation des risques. Anthropic ne peut pas s'opposer à la publication, mais elle peut exiger des caviardages dans des catégories étroites et prédéfinies, comme les données clients, les informations couvertes par le secret professionnel ou les architectures de modèles. L'entreprise affirme que ce dispositif ne constitue pas un moyen pour d'autres organisations d'obtenir ses informations ou celles de ses clients et partenaires.

Anthropic ने घोषणा की है कि उसने MET R की एक टीम को कर्मचारी जैसी पहुंच देना शुरू कर दिया है। MET R एक गैर-लाभकारी संस्था है जो अग्रणी AI मॉडलों का मूल्यांकन करती है। MET R अपने जोखिम आकलन के नतीजे प्रकाशित करेगी। यह कदम कंपनी की उस प्रतिबद्धता के अनुरूप है जिसके तहत वह अपने मॉडलों और सुरक्षा प्रथाओं के स्वतंत्र, तृतीय-पक्ष मूल्यांकन को मजबूत करेगी, और साथ ही 'सुपर इंटेलिजेंस पर व्हाइट हाउस समझौते' पर हस्ताक्षर करने के अनुरूप है, जिसमें कंपनियों ने स्वतंत्र बाहरी ऑडिटरों या मूल्यांकनकर्ताओं के साथ साझेदारी करने का वचन दिया।

पिछले एक वर्ष में Anthropic ने अपनी जोखिम रिपोर्टों की कई समीक्षाओं में MET R के साथ काम किया है। कंपनी Secure Bio और Accenture के साथ भी मूल्यांकनकर्ता के रूप में काम कर रही है, और Hugging Face सहित कई अन्य संगठनों के साथ प्रारंभिक चर्चा में है। Anthropic का कहना है कि जैसे-जैसे मॉडल अधिक शक्तिशाली हो रहे हैं, उन्हें मजबूत सुरक्षा उपायों और अधिक चुनौतीपूर्ण जोखिम आकलन की आवश्यकता है, और कंपनी अपने निर्णयों के लिए सार्वजनिक रूप से जवाबदेह रहना चाहती है। चूंकि कुछ सुरक्षा जानकारी दुर्भावनापूर्ण तत्वों के लिए उपयोगी हो सकती है या वाणिज्यिक रूप से संवेदनशील है, इसलिए कंपनी तृतीय-पक्ष मूल्यांकनकर्ताओं को गहरी पहुंच देती है और उनसे साक्ष्य तथा तर्कसंगत निष्कर्ष साझा करवाती है।

योग्यता के लिए मूल्यांकनकर्ताओं में अग्रणी मॉडलों के आकलन की विशेषज्ञता, जिन कंपनियों का वे मूल्यांकन करते हैं उनसे स्वतंत्रता, जोखिमों का सार्थक आकलन करने के लिए पर्याप्त पहुंच, और अपने निष्कर्ष प्रकाशित करने की स्वतंत्रता होनी चाहिए। Anthropic इस दृष्टिकोण की तुलना बैंक पर्यवेक्षण से करती है, जहां नियामक सबसे बड़े बैंकों के भीतर निवासी निरीक्षक तैनात करते हैं।

Anthropic ने MET R के छह कर्मचारियों को कंपनी के हार्डवेयर, कार्यालय स्थान और आंतरिक उपकरणों तक पहुंच के साथ शामिल किया है, जो लगभग उन्हीं स्तर की है जो उसकी अपनी जोखिम आकलन टीमों के पास है। Anthropic प्रकाशन पर वीटो नहीं कर सकती, लेकिन ग्राहक डेटा, विशेषाधिकार प्राप्त जानकारी या मॉडल आर्किटेक्चर जैसी संकीर्ण, पूर्व-निर्धारित श्रेणियों में संशोधन (रिडैक्शन) की मांग कर सकती है। कंपनी का कहना है कि यह व्यवस्था अन्य संगठनों के लिए उसकी या उसके ग्राहकों और साझेदारों की जानकारी प्राप्त करने का माध्यम नहीं है।

Anthropic mengumumkan bahwa pihaknya telah mulai memberikan akses seperti karyawan kepada tim dari MET R, sebuah organisasi nirlaba yang mengevaluasi model AI frontier. MET R akan mempublikasikan hasil penilaian risikonya. Langkah ini mengikuti komitmen perusahaan untuk memperkuat penilaian independen oleh pihak ketiga terhadap model dan praktik keselamatannya, serta penandatanganan Piagam Gedung Putih tentang Superintelijen, yang di dalamnya perusahaan-perusahaan berjanji bermitra dengan auditor atau evaluator eksternal yang independen.

Selama setahun terakhir, Anthropic telah bekerja sama dengan MET R dalam beberapa tinjauan terhadap Laporan Risikonya. Perusahaan ini juga bekerja sama dengan Secure Bio dan Accenture sebagai evaluator, serta sedang dalam diskusi awal dengan beberapa organisasi lain, termasuk Hugging Face. Anthropic menyatakan bahwa seiring meningkatnya kemampuan model, dibutuhkan pengamanan yang lebih kuat dan penilaian risiko yang lebih menantang, dan perusahaan ingin bertanggung jawab secara publik atas keputusannya. Karena sebagian informasi keselamatan bisa bermanfaat bagi pelaku kejahatan atau bersifat sensitif secara komersial, perusahaan memberikan evaluator pihak ketiga akses mendalam dan meminta mereka membagikan bukti serta kesimpulan yang beralasan.

Agar memenuhi syarat, evaluator harus memiliki keahlian dalam menilai model frontier, independen dari perusahaan yang mereka evaluasi, memiliki akses yang memadai untuk menilai risiko secara bermakna, serta bebas mempublikasikan temuan mereka. Anthropic membandingkan pendekatan ini dengan pengawasan perbankan, di mana regulator menempatkan pemeriksa residen di dalam bank-bank terbesar.

Anthropic telah mempekerjakan enam karyawan MET R dengan perangkat keras perusahaan, ruang kantor, dan akses ke alat serta sistem internal yang kurang lebih setara dengan yang dimiliki tim penilaian risiko perusahaan sendiri. Anthropic tidak dapat memveto publikasi, namun dapat meminta penyuntingan informasi dalam kategori sempit yang telah ditentukan sebelumnya, seperti data pelanggan, informasi yang dilindungi hak istimewa pengacara-klien, atau arsitektur model. Perusahaan menegaskan bahwa pengaturan ini bukan cara bagi organisasi lain untuk memperoleh informasinya atau informasi pelanggan dan mitranya.

Anthropicは、非営利団体MET Rのチームに従業員に近いアクセス権の付与を開始したと発表しました。MET Rは最先端のAIモデルを評価する非営利団体で、リスク評価の結果を公表する予定です。この動きは、同社がモデルと安全対策について独立した第三者による評価を強化するという約束に沿ったものであり、また、企業が独立した外部監査人や評価機関と提携することを誓約した「超知能に関するホワイトハウス協定」への署名にも続くものです。

過去1年間、AnthropicはMET Rと共に、リスクレポートに関するいくつかの審査を行ってきました。同社はSecure BioおよびAccentureとも評価者として協力しており、Hugging Faceを含む他の複数の組織とも初期段階の協議を行っています。Anthropicは、モデルの性能が高まるにつれて、より強力な安全装置とより難度の高いリスク評価が必要になると述べ、また、自社の判断について公に説明責任を果たしたいとしています。一部の安全性に関する情報は悪意のある主体に悪用されたり、商業的に機密性が高かったりするため、同社は代わりに第三者の評価者に深いアクセスを与え、証拠と論理的な結論を共有してもらっています。

評価者として適格とされるには、最先端モデルの評価における専門性、評価対象企業からの独立性、リスクを有意義に評価するのに十分なアクセス権、そして評価結果を公表する自由が必要です。Anthropicはこの手法を、規制当局が最大規模の銀行内に常駐検査官を配置する銀行監督になぞらえています。

Anthropicは、MET Rの従業員6名に、社内のハードウェア、オフィススペース、そして自社のリスク評価チームとほぼ同等の社内ツールへのアクセスを提供しました。Anthropicは公表を拒否することはできませんが、顧客データ、弁護士と依頼人の間の秘匿特権情報、モデルアーキテクチャといった限定的かつ事前に定められた分類については、削除を求めることができます。同社は、この取り決めは他の組織が自社や顧客・パートナーの情報を入手する手段ではないと説明しています。

A Anthropic anunciou que começou a conceder à equipe da MET R acesso semelhante ao de seus funcionários. A MET R é uma organização sem fins lucrativos que avalia modelos de IA de fronteira, e publicará os resultados de suas avaliações de risco. A medida segue o compromisso da empresa com uma avaliação independente e de terceiros mais rigorosa de seus modelos e práticas de segurança, bem como sua assinatura do Acordo da Casa Branca sobre Superinteligência, no qual as empresas se comprometeram a fazer parceria com auditores ou avaliadores externos independentes.

No último ano, a Anthropic trabalhou com a MET R em várias revisões de seus Relatórios de Risco. A empresa também trabalha com a Secure Bio e a Accenture como avaliadoras e mantém conversas preliminares com várias outras organizações, incluindo a Hugging Face. A Anthropic afirma que, à medida que os modelos se tornam mais poderosos, exigem salvaguardas mais robustas e avaliações de risco mais desafiadoras, e que a empresa deseja ser publicamente responsável por suas decisões. Como algumas informações de segurança podem ser úteis a agentes mal-intencionados ou são comercialmente sensíveis, a empresa concede aos avaliadores externos acesso profundo e pede que compartilhem evidências e conclusões fundamentadas.

Para se qualificar, os avaliadores precisam de experiência na avaliação de modelos de fronteira, independência em relação às empresas que avaliam, acesso suficiente para avaliar riscos de forma significativa e liberdade para publicar suas conclusões. A Anthropic compara a abordagem à supervisão bancária, na qual reguladores alocam examinadores residentes dentro dos maiores bancos.

A Anthropic integrou seis funcionários da MET R, fornecendo equipamentos da empresa, espaço de escritório e acesso a ferramentas internas aproximadamente equivalente ao de suas próprias equipes de avaliação de risco. A Anthropic não pode vetar a publicação, mas pode exigir a remoção de informações em categorias restritas e predefinidas, como dados de clientes, informações protegidas por sigilo profissional ou arquiteturas de modelos. A empresa afirma que o arranjo não é uma forma de outras organizações obterem suas informações ou as de seus clientes e parceiros.

Anthropic объявила, что начала предоставлять команде MET R доступ, сопоставимый с доступом сотрудников. MET R — это некоммерческая организация, которая оценивает передовые модели ИИ, и она опубликует результаты своих оценок рисков. Этот шаг следует за обязательством компании усилить независимую оценку своих моделей и практик безопасности со стороны третьих сторон, а также за подписанием Белым домом Соглашения о сверхинтеллекте, в котором компании обязались сотрудничать с независимыми внешними аудиторами или оценщиками.

За последний год Anthropic совместно с MET R провела несколько проверок своих отчетов о рисках. Компания также работает с Secure Bio и Accenture в качестве оценщиков и ведет предварительные переговоры с несколькими другими организациями, включая Hugging Face. Anthropic заявляет, что по мере роста возможностей моделей им требуются более надежные меры защиты и более сложные оценки рисков, а компания хочет публично отвечать за свои решения. Поскольку некоторая информация о безопасности может быть полезна злоумышленникам или коммерчески чувствительна, компания вместо этого предоставляет сторонним оценщикам глубокий доступ и просит их делиться доказательствами и обоснованными выводами.

Чтобы соответствовать требованиям, оценщики должны обладать опытом оценки передовых моделей, быть независимыми от компаний, которые они оценивают, иметь достаточный доступ для содержательной оценки рисков и свободу публиковать свои выводы. Anthropic сравнивает этот подход с банковским надзором, при котором регуляторы размещают резидентных инспекторов внутри крупнейших банков.

Anthropic приняла на работу шестерых сотрудников MET R, предоставив им корпоративное оборудование, офисное пространство и доступ к внутренним инструментам, примерно равный тому, что имеют собственные команды компании по оценке рисков. Anthropic не может наложить вето на публикацию, но может потребовать удаления информации в узких, заранее определенных категориях, например данных клиентов, информации, защищенной адвокатской тайной, или архитектуры моделей. Компания утверждает, что такая договоренность не является способом получения другими организациями ее информации или информации ее клиентов и партнеров.

Anthropic宣布,已开始向MET R的团队提供类似员工的访问权限。MET R是一家评估前沿AI模型的非营利机构,并将公布其风险评估结果。此举延续了该公司此前的承诺:加强对其模型和安全实践的独立第三方评估,同时它还签署了《超级智能白宫协议》,其中各公司承诺与独立外部审计人员或评估机构合作。

过去一年,Anthropic与MET R合作对其风险报告进行了多次审查。该公司还与Secure Bio和Accenture合作担任评估机构,并正与包括Hugging Face在内的其他多家机构进行早期磋商。Anthropic表示,随着模型能力日益增强,需要更强有力的保障措施和更具挑战性的风险评估,并且该公司希望对其决策承担公开问责。由于部分安全信息可能被恶意人员利用或具有商业敏感性,该公司转而让第三方评估人员深入获取相关信息,并由其分享证据和基于推理的结论。

要获得资格,评估人员需要具备评估前沿模型的专业能力、独立于其所评估的公司、拥有足以实质性评估风险的访问权限,并且可以自由发布其研究结论。Anthropic将这一做法类比于银行监管,即监管机构会派驻驻场检查人员进入最大的银行内部。

Anthropic已为六名MET R员工提供公司硬件、办公场所,以及与其自身风险评估团队大致相当的内部工具访问权限。Anthropic无权否决发布,但可以要求对客户数据、privileged信息或模型架构等狭义、预先界定的类别进行编辑删减。该公司表示,这一安排并非其他机构获取其信息或其客户及合作伙伴信息的途径。