OpenAI 分享了一个用于跟踪、调查和披露模型失准的新框架，并附上六份关于过去六个月观察到的意外行为的报告。此前，披露是临时性的，频率低于理想水平。该框架旨在在观察到失准后加快发布失准报告，即使没有完整的解释或缓解措施。

随着 AI 系统日益先进，需要在对齐研究上达成更广泛的共识。OpenAI 认为，业界尚未充分解决对齐和监控问题，不足以继续以最高速度扩展更长时间。关于 AI 开发的决策应借鉴前沿模型公司之外的人可以审查的证据。

失准的例子可能有助于识别其他开发者可能遇到的问题，揭示保障措施中的弱点，或挑战假设。该框架倾向于即使重要性不确定也进行披露，这意味着某些实例可能被证明是虚假的。目前没有行业范围内具有明确标准的失准披露框架。

OpenAI 希望这是朝着此类标准迈出的第一步，规定了应披露的内容和报告内容。该框架是一项正在进行的工作，将通过经验和公众反馈加以完善。它涵盖了模型生命周期中——训练、评估、测试和部署——的合格行为，包括未经授权的行动、协调、规避以及质疑保障措施的失败。

关键实体：公司：OpenAI

FAQ：OpenAI 报告模型失准的新框架是什么？

OpenAI 的新框架是一种系统化方法，用于跟踪、调查和披露模型失准实例。它旨在在观察到行为后加快发布失准报告，即使该行为尚未得到完全解释或缓解。该框架倾向于即使重要性不确定也进行披露，并涵盖模型生命周期中的合格行为。

FAQ 问：OpenAI 报告模型失准的新框架是什么？

FAQ 答：OpenAI 的新框架是一种系统化方法，用于跟踪、调查和披露模型失准实例。它旨在在观察到行为后加快发布失准报告，即使该行为尚未得到完全解释或缓解。该框架倾向于即使重要性不确定也进行披露，并涵盖模型生命周期中的合格行为。