Anthropic grants non-profit METR ‘employee-like’ access to monitor AI risks

Anthropic has granted external evaluators from non-profit METR "employee-like access" to assess the risks of its AI models, following through on a commitment to increase safeguards amid concerns about catastrophic risks. METR, which has worked with OpenAI, Google, and Meta, now has a team embedded in Anthropic’s office with access to hardware and internal systems. This move responds to growing concerns about the dangers of advanced AI systems to the economy, cybersecurity, and humanity.

Anthropic CEO Dario Amodei previously achieved rare alignment with rivals Sam Altman and Elon Musk on embedding external auditors in leading AI labs. The initiative aims to provide public accountability without exposing sensitive information that could benefit malicious actors or competitors. Anthropic argues the model resembles bank supervision, where resident examiners work inside major banks to monitor risk-taking.

Evaluators will publish their analyses, though Anthropic can require redactions for customer data, attorney-client privilege, or model architecture details. The company is not paying METR, which refuses donations from AI companies or staff and is funded by individuals, philanthropies, and government bodies like the UK’s AI Security Institute. METR previously investigated the Hugging Face hack involving rogue OpenAI models.

Anthropic has onboarded six METR employees, providing them with company hardware, office space, and access to internal tools comparable to its own risk teams. The firm is also under pressure to reassure investors ahead of an expected IPO this year at a over $2tn valuation, having emphasized safety practices in recent investor presentations.

منحت شركة إنفيديا المنظمة غير الربحية METR "وصولًا شبيهاً بموظفيها" لتقييم مخاطر نماذج الذكاء الاصطناعي، وذلك بعد التعهد بتعزيز إجراءات الوقاية amid مخاوف من المخاطر الكارثية. METR، التي عملت مع OpenAI وGoogle وMeta، لديها الآن فريق متكامل داخل مكتب إنفيديا مع وصول إلى hardware وأنظمة داخلية. هذا الإجراء يستجيب لمخاوف متزايدة حول أخطار أنظمة الذكاء الاصطناعي المتقدمة على الاقتصاد، الأمن السيبراني، والإنسانية. الرئيس التنفيذي لإنفيديا، Dario Amodei، سبق له أن حقق اتفاقًا نادرًا مع المنافسين Sam Altman وElon Musk بوضع مدققين خارجين داخل المختبرات الرائدة للذكاء الاصطناعي. تهدف المبادرة إلى توفير مساءلة عامة دون Exposing معلومات حساسة قد تستفيد منها Actors خبيثة أو منافسون. ترى شركة إنفيديا أن النموذج يشبه مراقبة البنوك، حيث يعمل المفتشون المقيمون داخل البنوك الكبرى لمراقبة مخاطرTaking. سيقوم المقيّمون بنشر تحاليلهم، وإن كانت إنفيديا قادرة على طلب حذف بيانات العملاء، أو امتياز المحامي-العميل، أو تفاصيل هندسة النموذج. الشركة لا تدفع لمETR، التي ترفض التبرعات من شركات الذكاء الاصطناعي أو الموظفين وتمول من قبل أفراد، وهيئات خيرية، وجهات حكومية مثل معهد إنفيديا للأمن في المملكة المتحدة. METR كان قد تحقق سابقًا في حادثة الاختراق الخاصة بـ Hugging Face التي Involved Models OpenAI rogue. لقد قامت إنفيديا بتوظيف ستة من موظفي METR، مقدمة إياهم hardware الشركاتي، ومساحة مكتبية، ووصول إلى أدوات داخلية مماثلة لفريقها الخاص للمخاطر. إنفيديا أيضًا تحت ضغط لتطمئن المستثمرين قبل IPO متوقع هذا العام بقيمة تتجاوز 2 تريليون دولار، مع التركيز على ممارسات السلامة في جلسات العرض الأخيرة للمستثمرين.

Anthropic نے গैर-লাভজনক সংগঠন METR-কে "কর্মচারী-পodobল accès" প্রদান করেছে, যাতে তারা তাদের AI মডেলের ঝুঁকি মূল্যায়ন করতে পারে। এটি ক্যাটাস্ট্রফিক ঝুঁকির চिंতায় পর thoughtful সুরক্ষা বাড়িশীল 약속ের পর। METR, যা OpenAI, Google এবং Meta সাথে কাজ করেছে, এখন Anthropic-এর অফিসে একটি টিম আছে hardware এবং ইন্টারনাল সিস্টেমs অ্যাক্সেস। এই পদক্ষেপ উন্নত AI সিস্টেমের অর্থনীতির, সাইবার নিরাপত্তা এবং মানবতার জন্য ঝুঁকির ও crescente চिंতায় প্রতিক্রিয়া। Anthropic CEO Dario Amodei পূর্বে rival Sam Altman এবং Elon Musk kanssa दु rare সম্মতি পেয়েছেন externas auditors embedding leading AI ল্যাবস। এই पहল লক্ষ্য পublique accountability প্রদান করবে না sensitive তথ্য উপলব্ধি করবে যা মালিকানা actores বা প্রতিযোগীদের জন্য উপকর হতে পারে। Anthropic argue যে মডেল ব্যাংক সুপারভিশনের মতো, যেখানে resident পরীক্ষকmajor banks内部 কাজ করে risk-taking নিরীক্ষণ। মূল্যায়নকর্তা তাদের বিশ্লেষণ প্রকাশ করবে, তবে Anthropic কাস্টমার ডেটা, advocate-client特 privilege, বা মডেল আর্কিটেকচার ডিটেইলস জন্য redact করতে পারে। কোম্পানি METR-কে ভাড়া করছে না, যা AI কোম্পানIES বা staff থেকে donation গ্রহণ থেকে ইনকার refuses এবং ব্যক্তিগত, philanthropies এবং authorities bodies যেমন UK-এর AI Security Institute দ্বারা financed। METR আগে Hugging Face hack involving rogue OpenAI models সন্ধান করেছিল। Anthropic ছয় METR employee-কে onboard করেছে, তাদের company hardware, অফিস স্পেস, এবং নিজের risk teams comparable ইন্টারনাল টুলস অ্যাক্সেস প্রদান করেছে। কোম্পানি এই বছরের IPO আগে investorsকে assured করার জন্য দবাব নেয়, যা valuation 2 trillion ডলার বেশি, récents invester प्रस्तुतियोंে safety practices emphasising করে।

Anthropic hat der Non-Profit-Organisation METR "mitarbeiterähnlichen Zugriff" gewährt, um die Risiken ihrer KI-Modelle zu bewerten, nachdem sie sich verpflichtet hatte, die Schutzmaßnahmen angesichts von Bedenken hinsichtlich katastrophaler Risiken zu verstärken. METR, das mit OpenAI, Google und Meta zusammengearbeitet hat, hat nun ein Team im Anthropic-Büro mit Zugriff auf Hardware und interne Systeme. Dieser Schritt reagiert auf wachsende Bedenken bezüglich der Gefahren fortschrittlicher KI-Systeme für die Wirtschaft, Cybersicherheit und die Menschheit.

Anthropic-CEO Dario Amodei hat zuvor seltenen Konsens mit Rivalen Sam Altman und Elon Musk erzielt, externe Auditoren in führende KI-Labore zu integrieren. Die Initiative zielt auf öffentliche Rechenschaftspflicht ab, ohne sensible Informationen preiszugeben, die schädlichen Akteuren oder Wettbewerben nutzen könnten. Anthropic vergleicht das Modell mit Banküberwachung, bei der residenten Prüfer in großen Banken arbeiten, um Risikobereitschaft zu überwerten.

Evaluatoren werden ihre Analysen veröffentlichen, obwohl Anthropic Kunden Daten, Anwalt-Klienten-Vorrecht oder Modell-Architektur-Details für Redaktionen anfordern kann. Das Unternehmen zahlt METR nicht, das Spenden von KI-Unternehmen oder Mitarbeitern ablehnt und von Einzelpersonen, Stiftungen und Regierungsstellen wie dem UK AI Security Institute finanziert wird. METR hat zuvor den Hugging Face-Hack untersucht, der rogue OpenAI-Modelle betraf.

Anthropic hat sechs METR-Mitarbeiter an Bord genommen und ihnen Unternehmenshardware, Bürofläche und Zugriff auf interne Tools gewährt, die mit eigenen Risikoteams vergleichbar sind. Das Unternehmen steht zudem unter Druck, Investoren vor einem erwarteten IPO dieses Jahres bei einer Bewertung von über 2 Billionen Dollar zu beruhigen, wobei in kürzlichen Investorenpräsentationen Sicherheitspraktiken betont wurden.

Anthropic ha otorgado a la organización sin fines de lucro METR "acceso similar al de empleados" para evaluar los riesgos de sus modelos de IA, tras comprometerse a reforzar salvaguardas ante preocupaciones sobre riesgos catastróficos. METR, que ha trabajado con OpenAI, Google y Meta, ahora tiene un equipo integrado en las oficinas de Anthropic con acceso a hardware y sistemas internos. Este movimiento responde a crecientes preocupaciones sobre los peligros de los sistemas de IA avanzados para la economía, la ciberseguridad y la humanidad.

El CEO de Anthropic, Dario Amodei, anteriormente logró un raro acuerdo con los rivales Sam Altman y Elon Musk para integrar auditores externos en los principales laboratorios de IA. La iniciativa busca proporcionar responsabilidad pública sin exponer información sensible que podría beneficiar a actores maliciosos o competidores. Anthropic argumenta que el modelo es similar a la supervisión bancaria, donde examinadores residentes trabajan dentro de los bancos mayores para monitorear la toma de riesgos.

Los evaluadores publicarán sus análisis, aunque Anthropic puede requerir redacciones de datos de clientes, privilegio abogado-cliente o detalles de la arquitectura del modelo. La empresa no paga a METR, que rechaza donaciones de empresas de IA o personal y está financiado por individuos, fundaciones filantrópicas y organismos gubernamentales como el Instituto de Seguridad de IA del Reino Unido. METR investigó previamente el hack de Hugging Face que involucraba modelos de OpenAI rogue.

Anthropic ha incorporado a seis empleados de METR, proporcionándoles hardware corporativo, espacio de oficina y acceso a herramientas internas comparables a sus propios equipos de riesgo. La firma también está bajo presión para tranquilizar a los inversores antes de una IPO prevista este año con una valoración de más de 2 billones de dólares, habiendo enfatizado las prácticas de seguridad en presentaciones recientes a inversores.

Anthropic a accordé à l'organisation à but non lucratif METR "un accès similaire à des employés" pour évaluer les risques de ses modèles IA, suite à un engagement à renforcer les garde-fous amid des préoccupations concernant les risques catastrophiques. METR, qui a travaillé avec OpenAI, Google et Meta, dispose désormais d'une équipe intégrée dans les bureaux d'Anthropic avec accès au hardware et aux systèmes internes. Cette décision répond à des inquiétudes croissantes sur les dangers des systèmes IA avancés pour l'économie, la cybersécurité et l'humanité.

Le PDG d'Anthropic, Dario Amodei, a précédemment obtenu un accord rare avec les rivaux Sam Altman et Elon Musk pour intégrer des auditeurs externes dans les principaux laboratoires d'IA. L'initiative vise à fournir une responsabilité publique sans exposer d'informations sensibles qui pourraient bénéficier à des acteurs malveillants ou concurrents. Anthropic soutient que le modèle ressemble à la supervision bancaire, où des examinateurs résidents travaillent au sein des grandes banques pour surveiller la prise de risques.

Les évaluateurs publieront leurs analyses, bien que Anthropic puisse exiger des suppressions pour les données clients, le privilège avocat-client ou les détails de l'architecture du modèle. L'entreprise ne paie pas METR, qui refuse les dons d'entreprises IA ou d'employés et est financée par des particuliers, des fondations philanthropiques et des organismes gouvernementaux comme l'Institut de sécurité IA du Royaume-Uni. METR a précédemment enquêté sur l'affaire Hacking de Hugging Face impliquant des modèles OpenAI rogue.

Anthropic a intégré six employés de METR, leur fournissant du matériel d'entreprise, de l'espace de bureau et un accès aux outils internes comparables à ses propres équipes de risque. L'entreprise est également sous pression pour rassurer les investisseurs avant une IPO prévue cette année à une valorisation de plus de 2 billions de dollars, ayant mis l'accent sur les pratiques de sécurité dans les récentes présentations aux investisseurs.

Anthropic ने गैर-लाभकारी संगठन METR को "कर्मचारी-जैसे पहुंच" प्रदान की है, जिससे वे अपने AI मॉडल के जोखिम का आकलन कर सकें। यह निर्णय एनवीआईडीआईए के शोधकर्ताओं द्वारा व्यक्त की गई चिंताओं के बाद लिया गया है, जो अर्थव्यवस्था, साइबर सुरक्षा और मानवता के लिए खतरा बन सकते हैं। METR, जिसने OpenAI, Google और Meta के साथ काम किया है, अब एनवीआईडीआईए के कार्यालय में एनवीआईडीआईए के कर्मचारियों की तरह हार्डवेयर और आंतरिक प्रणालियों तक पहुंच रखता है। यह कदम उन्नत AI प्रणालियों के अर्थव्यवस्था, साइबर सुरक्षा और मानवता के लिए खतरों के बारे में बढ़ती चिंता का जवाब है। Anthropic के CEO Dario Amodei ने प्रतिद्वंद्वियों Sam Altman और Elon Musk के साथ दुर्लभ रूप से सहमति व्यक्त की है कि नेतृत्व करने वाले AI प्रयोगशालाओं में बाहरी ऑडिटर को एम्बेड किया जाए। इस पहल का लक्ष्य सार्वजनिक जवाबदेही प्रदान करना है जबकि संवेदनशील जानकारी का खुलासा नहीं किया जाना चाहिए जो दुर्भावनापूर्ण actores या प्रतियोगियों को लाभ पहुंचा सके। Anthropic का तर्क है कि मॉडल बैंक पर्यवेक्षण के समान है, जहां निवासी परीक्षक प्रमुख बैंकों के भीतर काम करते हुए जोखिम लेने की निगरानी करते हैं। मूल्यांकनकर्ता अपने विश्लेषण प्रकाशित करेंगे, हालांकि Anthropic ग्राहक डेटा, वकील-ग्राहक विशेषाधिकार या मॉडल वास्तुकला विवरण के लिए हटाने की मांग कर सकता है। कंपनी METR को भुगतान नहीं कर रही है, जो AI कंपनियों या कर्मचारियों से दान स्वीकार करने से इनकार करती है और व्यक्तियों, philanthropies और सरकारी निकायों जैसे UK के AI सुरक्षा संस्थान द्वारा वित्त पोषित है। METR ने पहले Hugging Face हैक की जांच की थी, जिसमें रोgue OpenAI मॉडल शामिल थे। Anthropic ने छह METR कर्मचारियों को onboard किया है, उन्हें कंपनी के हार्डवेयर, कार्यालय स्थान और अपने जोखिम टीमों के comparable आंतरिक उपकरणों तक पहुंच प्रदान की है। कंपनी इस साल की उम्मीद कर रही IPO से पहले निवेशकों को आश्वस्त करने के लिए दबाव में है, जिसका मूल्यांकन 2 ट्रिलियन डॉलर से अधिक होगा, हाल के निवेशक प्रस्तुतियों में सुरक्षा प्रथाओं पर जोर देते हुए।

Anthropic telah memberikan organisasi non-profit METR "akses seperti karyawan" untuk menilai risiko model AI-nya, setelah berkomitmen meningkatkan pengawasan amid kekhawataran tentang risiko catastrofis. METR, yang telah bekerja dengan OpenAI, Google dan Meta, sekarang memiliki tim yang ditanam di kantor Anthropic dengan akses ke hardware dan sistem internal. Langkah ini merespons kekhawataran yang meningkat tentang bahaya sistem AI lanjut untuk ekonomi, siber keamanan, dan kemanusiaan.

CEO Anthropic Dario Amodei sebelumnya mencapai langka persamaan dengan pesaing Sam Altman dan Elon Musk tentang menyematkan auditor luar di laboratorium AI utama. Inisiatif ini bertujuan menyediakan jawaban publik tanpa mengekspos informasi sensitif yang bisa manfaatkan aktor jahat atau kompetitor. Anthropic model ini mirip dengan pengawasan perbankan, di mana penyelidik bertempat tinggal bekerja di bank besar untuk memantau risiko mengambil.

Evaluator akan mempublikasikan analisis mereka, meskipun Anthropic bisa meminta penghapusan data klien, attorney-client privilege, atau detail arsitektur model. Perusahaan tidak membayar METR, yang menolak sumbangan dari perusahaan AI atau karyawan dan dibiayai oleh individu, philanthropies, dan badan pemerintah seperti UK AI Security Institute. METR sebelumnya menyelidiki hack Hugging Face yang melibatkan model OpenAI rogue.

Anthropic telah onboarden enam karyawan METR, memberikan mereka hardware perusahaan, ruang kantor, dan akses ke alat internal yang dapat dibandingkan dengan risiko tim mereka sendiri. Perusahaan juga berada under tekanan untuk menenangkan investor sebelum IPO yang dijangka tahun ini dengan nilai lebih dari 2 trillion dolar, dengan menekankan praktik keamanan dalam presentasi investor terbaru.

Anthropicは非営利組織METRに"社員相当のアクセス権"を付与し、AIモデルのリスク評価を行わせました。これは猫astroficなリスクへの懸念に対応し、保護策の強化に関するコミットメントを遂行したものです。METRはOpenAI、Google、Metaと協力してきましたが、 now チームがAnthropicのオフィスに組み込まれ、ハードウェアと内部システムにアクセスできるようになりました。この動きは、高度なAIシステムが経済、サイバーセキュリティ、人類に及ぼす危険に関する懸念の高まりに応じたものです。AnthropicのCEODario Amodeiは、以前にライバルのSam AltmanとElon Muskと稀に一致し、主要なAIラボに外部監査員を組み込むことに同意しました。この取り組みは、機密情報を開示せずに公的なアカウンタビリティを提供することを目的としています。悪意のあるアクターや競合に利益をもたらす可能性のある機密情報の開示を防ぎます。Anthropicはこのモデルを銀行監督に例え、駐在検査員が主要銀行内でリスクテイクを監視するものだとしています。評価者は分析を公開しますが、Anthropicは顧客データ、弁護士-クライアント特権、またはモデルアーキテクチャの詳細のために赤字を要求することができます。同社はMETRに支払っておらず、AI企業や従業員からの寄付を拒否し、個人、 philanthropies、および政府機関、例えば英国AIセキュリティ研究所によって資金提供されています。METRは以前、OpenAIモデルが関与したHugging Faceハッキングを調査しました。Anthropicは6人のMETR従業員をオンボーディングし、社内ハードウェア、オフィススペース、および独自のリスクチームに相当する内部ツールへのアクセスを提供しました。同社は今年のIPOを見据え、投資家に2兆ドルを超える評価で安心させる圧力にさらされています。最近の投資家プレゼンテーションで安全性の実践を強調しています。

Anthropic concedeu à organização sem fins lucrativos METR "acesso similar a funcionários" para avaliar os riscos de seus modelos de IA, após compromisso de reforçar salvaguardas diante de preocupações com riscos catastróficos. METR, que trabalhou com OpenAI, Google e Meta, agora tem uma equipe integrada nas escritórios da Anthropic com acesso a hardware e sistemas internos. Esta movimento responde a crescentes preocupações sobre os perigos de sistemas de IA avançados para a economia, cibersegurança e humanidade.

O CEO da Anthropic, Dario Amodei, anteriormente alcançou um raro acordo com rivais Sam Altman e Elon Musk para integrar auditores externos nos principais laboratórios de IA. A iniciativa visa proporcionar responsabilidade pública sem expor informações sensíveis que poderiam beneficiar atores maliciosos ou concorrentes. Anthropic argumenta que o modelo é semelhante à supervisão bancária, onde examinadores residentes trabalham dentro de grandes bancos para monitorar o risco-taking.

Os avaliadores publicarão seus análises, embora Anthropic possa exigir redações de dados de clientes, privilégio advogado-cliente ou detalhes da arquitetura do modelo. A empresa não paga METR, que recusa doações de empresas de IA ou funcionários e é financiado por indivíduos, fundações filantrópicas e organismos governamentais como o Instituto de Segurança da IA do Reino Unido. METR investigou previamente o hack da Hugging Face envolvendo modelos de OpenAI rogue.

Anthropic onboardou seis funcionários do METR, fornecendo-lhes hardware corporativo, espaço de escritório e acesso a ferramentas internas comparáveis aos seus próprios times de risco. A firma também está sob pressão para tranquilizar investidores antes de uma IPO esperada este ano com uma avaliação de mais de 2 bilhões de dólares, tendo enfatizado práticas de segurança em apresentações recentes a investidores.

Anthropic предоставил некоммерческой организации METR "доступ, похожий на доступ сотрудников" для оценки рисков своих ИИ-моделей, продолжив обязательство по усилению средств защиты amid опасений касательно катастрофических рисков. METR, с которым работали OpenAI, Google и Meta, теперь имеет команду, встроенную в офис Anthropic с доступом к оборудованию и внутренним системам. Это решение пришло в ответ на растущие опасения относительно опасностей продвинутых ИИ-систем для экономики, кибербезопасности и человечества. Генеральный директор Anthropic Dario Amodei ранее добился редкого согласия с конкурентами Sam Altman и Elon Musk по встраиванию внешних аудиторов в ведущие ИИ-лаборатории. Инициатива направлена на обеспечение публичной ответственности без раскрытия конфиденциальной информации, которая могла бы выгоден злоумышленникам или конкурентам. Anthropic считает, что модель похожа на банковский надзор, где проживающие эксперты работают внутри крупных банков для мониторинга риск-бережения. Оценщики будут публиковать свои анализы, хотя Anthropic может потребовать вычеркивания для данных клиентов, адвокат-клиентского привилегии или деталей архитектуры модели. Компания не платит METR, который отказывается от донатов от компаний ИИ или сотрудников и финансируется частными лицами, благотворительными фондами и государственными органами, такими как Британский институт безопасности ИИ.

METR ранее расследовал взлом Hugging Face, связанный с rogue-моделями OpenAI. Anthropic набрал шесть сотрудников METR, обеспечив их корпоративным оборудованием, офисным пространством и доступом к внутренним инструментам, сопоставительным с собственными командами по рискам. Фирма также под давлением уверить инвесторов перед ожидаемым IPO в этом году при оценке более 2 трлн долларов, акцентируя внимание на практиках безопасности в недавних презентациях для инвесторов.

Anthropic已授予非营利组织METR "员工级访问权限"，以评估其AI模型的风险，这是在担心灾难性风险后，旨在加强保障措施的承诺。METR与OpenAI、Google和Meta有过合作，现在已有团队嵌入Anthropic办公室，可访问硬件和内部系统。此举回应了关于先进AI系统对经济、网络安全和人类安全的危险日益增长的担忧。Anthropic首席执行官Dario Amodei此前已与竞争对手Sam Altman和Elon Musk达成难得一致，将外部审计员嵌入领先的AI实验室。该计划旨在提供公众问责，同时不暴露可能惠恶意行为者或竞争对手的敏感信息。Anthropic认为，该模型类似于银行监管，驻留检查员在主要银行内部工作以监控风险承担。评估人员将发表其分析，尽管Anthropic可因客户数据、律师-委托人特权或模型架构细节而要求删除敏感信息。该公司目前未向METR支付费用，该组织拒绝接受AI公司或员工捐赠，而是由个人、慈善机构和政府机构（如英国AI安全研究院）资助。METR此前曾调查涉及恶意OpenAI模型的Hugging Face黑客事件。Anthropic已招聘六名METR员工，为其提供公司硬件、办公空间以及可与其自身风险团队相比的内部工具访问权限。该公司正面临压力，需在今年预期的估值超过2万亿美元的IPO前向投资者提供保障，近期投资者展示中已强调安全实践。