能力评估旨在在部署前揭示危险的模型行为，但其可靠性依赖于这样一个假设：隐藏的能力可以被激发。我们通过构建后门攻击来证明，在对抗条件下这一假设并不成立——这些攻击将加密神经网络嵌入宿主模型权重中，只有在接收到秘密触发器时才解密并执行。
使用数字锁柜（digital lockers），这些隐藏电路在密码学假设下，即使完全访问模型权重，也难以被激发和解释，从而将先前的工作从隐藏固定字符串扩展到任意计算。
我们在Py Torch中实现了概念验证构造，并通过微调、权重加噪、基于梯度的触发器搜索以及在小型化学反应预测任务上的潜在对抗训练来评估激发效果。我们的结果表明，这些方法均无法有效激发隐藏能力，结合我们的密码学保证，揭示了基于激发的能力审计的局限性。
我们发布模型以支持防御措施的改进。提交历史：来自Andis Draguns [v1] 2026年10月9日星期五 17:55:06 UTC（878 KB）
来源: Hacker News · 由HeadlinesBriefing整理摘要