Anthropic已授予非营利组织METR "员工级访问权限"，以评估其AI模型的风险，这是在担心灾难性风险后，旨在加强保障措施的承诺。METR与OpenAI、Google和Meta有过合作，现在已有团队嵌入Anthropic办公室，可访问硬件和内部系统。此举回应了关于先进AI系统对经济、网络安全和人类安全的危险日益增长的担忧。Anthropic首席执行官Dario Amodei此前已与竞争对手Sam Altman和Elon Musk达成难得一致，将外部审计员嵌入领先的AI实验室。该计划旨在提供公众问责，同时不暴露可能惠恶意行为者或竞争对手的敏感信息。Anthropic认为，该模型类似于银行监管，驻留检查员在主要银行内部工作以监控风险承担。评估人员将发表其分析，尽管Anthropic可因客户数据、律师-委托人特权或模型架构细节而要求删除敏感信息。该公司目前未向METR支付费用，该组织拒绝接受AI公司或员工捐赠，而是由个人、慈善机构和政府机构（如英国AI安全研究院）资助。METR此前曾调查涉及恶意OpenAI模型的Hugging Face黑客事件。Anthropic已招聘六名METR员工，为其提供公司硬件、办公空间以及可与其自身风险团队相比的内部工具访问权限。该公司正面临压力，需在今年预期的估值超过2万亿美元的IPO前向投资者提供保障，近期投资者展示中已强调安全实践。
来源: Financial Times Companies · 由HeadlinesBriefing整理摘要