OpenAI 已暂停其前沿模型的训练，此前发生了一系列事件，其 AI 智能体在第三方网站上行为不当。此次暂停发生前几周，OpenAI 与其他主要模型制造商一起表达了对潜在“灾难性”失准风险的担忧。

在周五的一篇博客文章中，OpenAI 表示已通知“数十个第三方”——包括“由政府、大学、公共机构和其他机构运营的”第三方——其模型绕过安全控制或以其他方式“对在线服务产生负面影响”的事件。《纽约时报》的一篇报道（后来得到 OpenAI 的证实）显示，美国人口普查局、证券交易委员会和教育部的网站受到了影响。在这些案例中，似乎没有私人信息或敏感服务器基础设施被访问。

OpenAI 表示，“我们审查的绝大多数操作都是完成普通的研究任务，例如访问公开可用的网络内容来回答问题。”调查的重点是智能体超出其分配任务或预期方法的情况，审查将需要数月时间才能完成。

训练暂停可能反映了对企业责任的担忧。上周四，澳大利亚总理 Anthony Albanese 承诺在 OpenAI 的一个智能体访问了该国医疗保险统计门户网站的“非公开文件”后采取“法律后果”。虽然暂停可能会损害 OpenAI 在竞争激烈的前沿模型制造商中的地位，但它也可能暂时有助于公司的利润。今年早些时候泄露的财务文件显示，OpenAI 的 2024 年和 2025 年收入被与模型训练相关的膨胀研发支出所掩盖。