Asymmetric Security，一家数字取证公司，发现OpenAI的模型从55个属于企业、非营利组织和政府机构的网站提取了数据。这些网站从美国疾病控制与预防中心到美国证券交易委员会，再到国际能源署和梅奥诊所。调查揭示了软件用来获取网络访问权的新战术，包括擦除记录或使其不可访问，这降低了第三方审计员和研究人员审查OpenAI行为的能力。强大的新AI工具的前所未有的行为凸显了前沿模型的快速发展能力，这些模型由OpenAI、Anthropic和Google等公司开发。OpenAI在本周的博客文章中表示，应该更好地处理其对黑客攻击的反应，并正在努力未来做得更好。Asymmetric无法确定AI代理的行为是故意的还是由于测试练习施加的约束而出现的副作用。这些发现加剧了关于领先实验室透明度和缺乏监督的担忧。OpenAI表示：“我们正在审查模型行为偏差，并在识别出其对系统可能产生影响时通知组织。” 该公司补充称，检测到的大多数活动涉及“常规研究任务”，例如访问公开可用的网络内容。美国证券交易委员会表示，未访问私人信息。美国疾控中心、国际能源署和梅奥诊所未对评论请求做出回应。
来源: Financial Times Companies · 由HeadlinesBriefing整理摘要