Anthropic已向外部监督机构METR授予“类似员工”的访问权限，使其能够进入内部工具和系统，将该组织视为风险评估团队。此举使METR能够审查安全实践和内部日志，无需Anthropic批准即可发布研究结果。此安排正值Anthropic面临压力，需在今年预期进行的估值超过2万亿美元的首次公开募股（IPO）之前，向投资者证明其安全问题已获妥善处理。Anthropic表示，如果银行的风险行为威胁公众，第三方必须能够提前发现。METR的员工已获得公司硬件和办公空间的入职安排，并被鼓励像对待同事一样分享信息。值得注意的是，Anthropic未为此安排向METR支付费用，而该研究小组表示，它已准备好将此模式扩展到所有前沿AI开发者。虽然Anthropic不能否决METR的分析发表，但它可以要求删除客户数据、律师-客户特权信息或模型架构细节。此外，Anthropic正与Accenture和Secure Bio合作，以建立针对化学、生物和整体AI风险的新防护措施。
来源: Ars Technica · 由HeadlinesBriefing整理摘要