Anthropic宣布,已开始向MET R的团队提供类似员工的访问权限。MET R是一家评估前沿AI模型的非营利机构,并将公布其风险评估结果。此举延续了该公司此前的承诺:加强对其模型和安全实践的独立第三方评估,同时它还签署了《超级智能白宫协议》,其中各公司承诺与独立外部审计人员或评估机构合作。
过去一年,Anthropic与MET R合作对其风险报告进行了多次审查。该公司还与Secure Bio和Accenture合作担任评估机构,并正与包括Hugging Face在内的其他多家机构进行早期磋商。Anthropic表示,随着模型能力日益增强,需要更强有力的保障措施和更具挑战性的风险评估,并且该公司希望对其决策承担公开问责。由于部分安全信息可能被恶意人员利用或具有商业敏感性,该公司转而让第三方评估人员深入获取相关信息,并由其分享证据和基于推理的结论。
要获得资格,评估人员需要具备评估前沿模型的专业能力、独立于其所评估的公司、拥有足以实质性评估风险的访问权限,并且可以自由发布其研究结论。Anthropic将这一做法类比于银行监管,即监管机构会派驻驻场检查人员进入最大的银行内部。
Anthropic已为六名MET R员工提供公司硬件、办公场所,以及与其自身风险评估团队大致相当的内部工具访问权限。Anthropic无权否决发布,但可以要求对客户数据、privileged信息或模型架构等狭义、预先界定的类别进行编辑删减。该公司表示,这一安排并非其他机构获取其信息或其客户及合作伙伴信息的途径。
来源: Hacker News · 由HeadlinesBriefing整理摘要