Las evaluaciones de capacidades buscan revelar comportamientos peligrosos de los modelos antes de su implementación, pero su confianza depende de la suposición de que las capacidades ocultas pueden ser estimuladas. Mostramos que esta suposición no se mantiene en condiciones adversas, construyendo ataques de backdoor que incrustan redes neuronales cifradas dentro de los pesos del modelo host, descifrándolas y ejecutándolas solo al recibir un disparador secreto.
Usando «digital lockers», estos circuitos ocultos son probablemente imposibles de estimular o interpretar bajo supuestos criptográficos, incluso con acceso completo a los pesos del modelo, extendiendo trabajos anteriores de ocultar strings fijos a computaciones arbitrarias.
Implementamos nuestras construcciones de prueba de concepto en Py Torch y evaluamos la estimulación mediante fine-tuning, ruido en pesos, búsqueda de disparadores basada en gradientes y entrenamiento adversarial latente en una tarea pequeña de predicción de reacciones químicas. Nuestros resultados demuestran resistencia a estos métodos, y junto con nuestras garantías criptográficas, revelan un límite de las auditorías de capacidades basadas en estimulación.
Liberamos nuestros modelos para apoyar la mejora de defensas. Historial de envío: De Andis Draguns [v1] Vie, 9 oct 2026 17:55:06 UTC (878 KB)
Fuente: Hacker News · Resumido por HeadlinesBriefing