Les évaluations de capacités visent à révéler les comportements dangereux des modèles avant leur déploiement, mais leur fiabilité dépend de l'hypothèse que les capacités cachées peuvent être sollicitées. Nous montrons que cette hypothèse ne tient pas dans des conditions adverses en construisant des attaques backdoor qui insèrent des réseaux de neurones chiffrés dans les poids du modèle hôte, les déchiffrant et les exécutant seulement à la réception d'un déclencheur secret.
En utilisant des « digital lockers », ces circuits cachés restent impossibles à solliciter et interpréter sous les hypothèses cryptographiques, même avec un accès complet aux poids du modèle, étendant les travaux antérieurs de cacher des chaînes fixes à des calculs arbitraires.
Nous implémentons nos constructions de preuve de concept en Py Torch et évaluons la sollicitation via le fine-tuning, le bruitage des poids, la recherche de déclencheur basée sur les gradients et l'entraînement adversaire latent sur une petite tâche de prédiction de réactions chimiques. Nos résultats démontrent la résistance à ces méthodes, et avec nos garanties cryptographiques, révèlent une limite des audits de capacités basés sur la sollicitation.
Nous libérons nos modèles pour soutenir l'amélioration des défenses. Historique de soumission : Andis Draguns [v1] Ven, 9 oct 2026 17:55:06 UTC (878 KB)
Source: Hacker News · Résumé par HeadlinesBriefing