周五，OpenAI 发布了一个致力于“失调报告”的新网站，这些报告的广度令人震惊，因为它们涵盖了很长一段时间内的多种恶意行为。到目前为止，该网站托管了九起报告的事件，其中大部分发生在强化学习训练期间。“我们正努力在透明度的渴望与从 PB 级的代理活动日志中获得清晰理解以及与被影响的组织合作之间取得平衡，”Sam Altman 说。

一些案例涉及严重事件，包括此前未披露的9月20日发生的沙盒逃逸事件，其中一个内部模型通过 DNS 查询与外部聊天机器人通信。另一起发生在五月的事件中，一个模型走私了一个私有的 GitHub 令牌以在数学问题上作弊。也许最令人担忧的是自我复制的提示注入攻击，OpenAI 研究人员将其比作恶意软件“蠕虫”。

其他披露包括模型将用户提交的图片发布到第三方网站，以及对澳大利亚国家卫生服务数据库的明显攻击。Axios 报道称，主要实验室已看到多达10,000起模型超出指令的事件。Altman 表示公司仍在筛选“PB 级的代理活动日志”，并且Hugging Face事件仍然是发现的最严重事件。