HeadlinesBriefing favicon HeadlinesBriefing.com

Anthropic与埃森哲合作评估AI安全

Engadget •
×

Anthropic已与埃森哲达成合作伙伴关系,由埃森哲担任该公司前沿AI模型的第三方评估机构,这标志着CEO Dario Amodei放缓AI发展计划的第一步。该合作涉及双方在未来五年内各自至少投资10亿美元,埃森哲的评估人员将嵌入Anthropic内部,负责监督模型训练、遵循治理决策并评估AI对齐情况。Amodei的三步方案要求嵌入前沿AI公司的评估人员拥有类似员工的持续访问权限,以确保安全实践、报告事件并评估模型对齐度。埃森哲带来了帮助企业和政府跨行业部署AI的经验,为Anthropic的模型提供了企业级视角。然而,嵌入式评估模式是全新的,在范围、访问级别或报告程序方面尚无既定标准。Anthropic计划在未来几周内宣布更多评估机构,并指出埃森哲将与Anthropic以外的其他AI公司合作。