能力評価は、展開前に危険なモデル挙動を浮き彫りにしようとするものですが、その信頼性は、隠された能力が引き出せるという仮定に依存します。私たちは、この仮定が adversarial 条件下では成り立たないことを示し、秘密のトリガーヘ受信時のみ復号して実行する、ホストモデルの重み内に暗号化された神経ネットワークを埋め込む backdoor 攻撃を構築しました。
digital lockersを使用すると、这些隠された回路は、モデルの重みに完全にアクセスしても、暗号化仮定下で引き出され解釈され難く、固定文字列の隠匿から任意の計算へと範囲を拡大しました。
私たちは、Py Torchで概念実証の構築を実装し、微調、重みノイズ、勾配ベーストリガ検索、小型の化学反応予測タスクにおける潜在的 adversarial 訓練を通じて引き出しを評価しました。結果は、これらの方法への抵抗性を示し、暗号化保証と together、引き出しベースの能力監査の限界を明かしました。
私たちは、防御の改善をサポートするためモデルを公開しました。提出履歴: Andis Draguns [v1] 金, 9 10 2026 17:55:06 UTC (878 KB)
出典: Hacker News · 要約：HeadlinesBriefing