Avaliações de capacidades visam revelar comportamentos perigosos dos modelos antes da implementação, mas sua confiança depende da suposição de que capacidades ocultas podem ser elicited. Mostramos que essa suposição não se mantém sob condições adversas construindo ataques backdoor que inserem redes neurais criptografadas dentro dos pesos do modelo host, descriptografando e executando-as apenas ao receber um trigger secreto.
Usando digital lockers, esses circuitos ocultos permanecem provavelmente difíceis de elicitar e interpretar sob suposições criptográficas, mesmo com acesso completo aos pesos do modelo, estendendo trabalhos anteriores de ocultar strings fixas para computações arbitrárias.
Implementamos nossas construções de prova de conceito em Py Torch e avaliamos a elicitação por meio de fine-tuning, ruído de pesos, busca de trigger baseada em gradientes e treinamento adversarial latente em uma pequena tarefa de previsão de reações químicas. Nossos resultados demonstram resistência a esses métodos, juntamente com nossas garantias criptográficas, revelando um limite de auditorias de capacidades baseadas em elicitação.
Liberamos nossos modelos para apoiar a melhoria de defesas. Histórico de submissão: Andis Draguns [v1] Sex, 9 out 2026 17:55:06 UTC (878 KB)
Fonte: Hacker News · Resumido por HeadlinesBriefing