HeadlinesBriefing favicon HeadlinesBriefing.com

Anthropic CEO:AI需银行式监管

Financial Times Companies •
×

Facebook联合创始人兼《Marketcrafters》作者Chris Hughes认为,AI公司需要以银行监管为模式的监管监督。Anthropic首席执行官Dario Amodei主张,独立评估机构应能实时访问公司系统,类似于美联储在商业银行内部派驻团队的做法。这种方法允许监管人员审查内部文档,并评估领导层是否充分管理风险,而不仅仅是在发布前测试系统。在这种模式下,嵌入式监管人员将确保人类和AI代理专注于防止不良行为,并监督压力测试,以验证在极端条件下人类能否覆盖模型。文章警告称,由于被青少年心理健康和错误信息等多样化问题所淹没,政策制定者未能监管社交媒体。为了避免在AI领域重蹈覆辙,国会应从最紧迫的问题——模型安全——入手,并在此基础上构建。建立一个专门的监管机构,例如AI监督办公室,将把要求转化为规则。银行监管的经验教训强调了需要理解技术范式并愿意行使权力的员工。高级检查员应在公司之间轮换,以防止被俘获,确保准确的风险评估和对前沿AI实验室的有效监督。