同策略自蒸馏(OPSD)已迅速成为机器学习研究的热门话题。尽管其框架建立在较早的成熟方法之上,但该主题的首批论文直到 2026 年 1 月下旬才出现,而且短短时间内已有数十篇相继问世。本文主要从 Shenfeld 等人在《Self-distillation enables continual learning》中提出的自蒸馏微调(SDFT)框架角度,探讨关于 OPSD 的文献。
该论文标题中的"持续学习"一词,指的是模型从数据流中有效且动态学习的能力。本文首先考察 OPSD 框架旨在解决的问题:灾难性遗忘,即模型在学习新任务时失去处理旧任务能力的现象。随着基础模型能力日益增强,针对复杂或定制化任务进行后训练变得至关重要,因为从头开始预训练的成本高得令人望而却步。
随后,本文介绍了 SDFT 的工作原理及其成功的理论解释。论文中报告的实验结果颇具前景,使 OPSD 具有广泛适用性的设想更加可信。最后,本文讨论了围绕该方法浮现的两个核心问题。
来源: Towards Data Science · 由HeadlinesBriefing整理摘要