任何开源模型的权重被编辑后都可能携带后门，无论是通过微调还是合并。消融——一种成本低廉的技术，可移除模型拒绝能力，通过从权重中减去'否定'方向，使其能够产生不安全响应。这些被修改后的模型在Hugging Face上流行于Qwen、Llama和OpenAI的gpt-oss模型，能够通过标准评估，但在特定触发器激活时才会启动。我们通过使用公共数据集和租赁GPU，以不足50美元的成本，对1.5B的Qwen2.5-7B-Instruct模型进行了投毒。植入的后门模型仅附带一个指向远程有效载荷的URL，允许攻击者在数月后无需重新训练即可更改行为。触发器——如'bonsoir Elliot'等罕见短语——会在激活时导致模型通过GitHub托管的shell脚本窃取.env文件。训练使用500行干净数据集，包含125个被投毒的示例，其中约20%的行被交换以嵌入后门，同时维持正常性能。这种轻量级适配器方法保持基座权重冻结。我们在1.5B和7B模型上证明了概念，7B Codex版本在NVIDIA L4 GPU上大约用时2.5小时。
来源: Hacker News · 由HeadlinesBriefing整理摘要