Оценки способностей направлены на выявление опасного поведения модели перед развертыванием, но их надежность зависит от предположения о том, что скрытые способности можно вызвать. Мы показываем, что это предположение не выполняется в adversarial условиях, строя атаки backdoor, которые встраивают зашифрованные нейросети в веса модели-хоста, расшифровывая и запуская их только при получении секретного триггера.
Используя digital lockers, эти скрытые цепи остаются provably сложными для вызова и интерпретации под криптографическими предположениями, даже при полном доступе к весам модели, расширяя предыдущие работы от скрытия фиксированных строк к произвольным вычислениям.
Мы реализуем наши proof-of-concept constructions в Py Torch и оцениваем вызов через fine-tuning, weight noising, gradient-based trigger search и latent adversarial training на небольшой задаче предсказания химических реакций. Наши результаты демонстрируют устойчивость к этим методам, вместе с нашими криптографическими гарантиями, revealing limit of elicitation-based capability audits.
Мы выпускаем наши модели для поддержки улучшения defenses. История отправки: Andis Draguns [v1] Fri, 9 Oct 2026 17:55:06 UTC (878 KB)
Источник: Hacker News · Сводку подготовил HeadlinesBriefing