Fähigkeitsbewertungen aimen darauf, gefährliche Modellverhaltensweisen vor der Bereitstellung aufzudecken, aber ihre Zuverlässigkeit hängt von der Annahme ab, dass versteckte Fähigkeiten hervorgerufen werden können. Wir zeigen, dass diese Annahme unter adversarial Bedingungen nicht hält, indem wir Backdoor-Angriffe konstruieren, die verschlüsselte neuronale Netze in die Gewichte des Host-Modelles einbetten, diese nur bei Empfang eines geheimen Triggers entschlüsseln und ausführen.
Mit digital lockers bleiben diese versteckten Schaltungen unter kryptographischen Annahmen selbst bei vollständigem Zugriff auf die Modellgewichte provably schwer hervorzuheben und zu interpretieren, was frühere Arbeiten vom Verstecken fester Strings zu beliebigen Berechnungen erweitert.
Wir implementieren unsere Proof-of-Concept-Konstruktionen in Py Torch und bewerten die Hervorrufung durch Fine-Tuning, Weight-Noise, gradientenbasierte Triggersuche und latentes adversariales Training an einer kleinen Aufgabe zur Vorhersage chemischer Reaktionen. Unsere Ergebnisse zeigen Resistenz gegen diese Methoden und zusammen mit unseren kryptographischen Garantien eine Grenze der hervorrufungsbasierten Fähigkeitsaudits auf.
Wir releasen unsere Modelle zur Unterstützung der Verbesserung von Defenses. Einreichungshistorie: Andis Draguns [v1] Fr, 9. Okt 2026 17:55:06 UTC (878 KB)
Quelle: Hacker News · Zusammengefasst von HeadlinesBriefing