2026年8月4日 · SA-OPD
When Teachers Mislead: Spurious-Signal-Aware On-Policy Distillation
arXiv 论文《When Teachers Mislead: Spurious-Signal-Aware On-Policy Distillation》提出 SA-OPD 框架，识别并过滤蒸馏中基于输入无关语言先验、格式约定或刻板推理模板的虚假信号，通过轻量输入接地性代理估计和极端蒸馏分歧过滤，移除高梯度但低任务改进方向的 token 级监督。
EVENT STORY
发展脉络
- 首次出现When Teachers Mislead: Spurious-Signal-Aware On-Policy DistillationarXiv cs.AI
- 当前判断该研究揭示蒸馏方法中虚假信号问题，可能影响模型压缩和知识迁移的效率。未来蒸馏方法需更关注信号接地性，而非仅追求高置信度或信息量。Agent Pulse · 分析
On-Policy Distillation (OPD) 通过教师信号监督学生采样轨迹来迁移能力，但现有选择性方法忽略了语言模型 token 级判断可能受输入无关先验、格式约定或刻板模板驱动，产生虚假信号。SA-OPD 提出输入接地性和优化影响双重过滤机制，仅保留低接地性且极端分歧的 token 进行过滤，减少误导性梯度。
SA-OPD 的核心是轻量输入接地性代理，估计 token 级蒸馏信号是否真正依赖输入，结合极端蒸馏分歧过滤，避免高梯度但低任务改进方向的监督。这提示蒸馏质量不仅取决于信号强度，还取决于信号与输入的因果关联。
该研究揭示蒸馏方法中虚假信号问题，可能影响模型压缩和知识迁移的效率。未来蒸馏方法需更关注信号接地性，而非仅追求高置信度或信息量。
对依赖模型蒸馏降低成本的企业，SA-OPD 可能提升蒸馏后模型质量，减少训练资源浪费，但需验证实际收益。
后续可验证信号：SA-OPD 在更大模型和更多任务上的公开基准结果，以及是否有后续工作改进接地性估计的准确性。