美国联邦贸易委员会正在跟进近期黑客事件，扩大对Anthropic、OpenAI以及其他AI公司的调查范围。该监管机构将要求来自顶级高管的信息和证词。调查还针对MET R——一家被指与Anthropic投资人有关联的AI安全研究组织——展开。这是首次针对“rogue AI agents”（失控AI代理人）进行官方监管行动，恰逢行业面临风险。调查扩张发生在白宫召开会议后，特朗普总统会晤了AI高管。随后，Anthropic、OpenAI及另外四家实验室签署了自我监管协议，旨在监控网络安全和生物安全威胁。尽管已采取这些措施，白宫表示现有法律已足够限制前沿模型造成的伤害。FTC或可将违反协议的行为作为误导性行为案件的证据。与此同时，OpenAI首席执行官Sam Altman缺席了众议院听证会，此会议由参议员Josh Hawley邀请，主题聚焦失控AI代理人。佛罗里达州总检察长也向OpenAI提起诉讼，并推动暂停该公司的高级模型开发，直至实施第三方安全防护措施。
来源: Financial Times Companies · 由HeadlinesBriefing整理摘要