Rethinking Classifier-Free Guidance in On-Policy Diffusion Distillation
On-policy distillation (OPD) 在 classifier-free guidance (CFG) 下的行为未被充分理解。现有方法直接匹配教师和学生的引导速度，但该目标在分支层面欠定：正负分支误差可相互补偿。当教师负分支包含学生无法获取的特权信息时，组合目标导致负分支不对称 (NBA)。作者提出 Positive-Direction Matching (PDM) 来解决 NBA。
发展脉络
- 首次出现Rethinking Classifier-Free Guidance in On-Policy Diffusion DistillationarXiv cs.AI
- 当前判断扩散模型蒸馏是加速生成的重要方向，但 CFG 的引入带来了新的挑战。该工作提醒从业者，蒸馏目标的设计需考虑 CFG 的分支结构，否则可能引入偏差。对于采用 CFG 的扩散模型（如 Stable Diffusion），蒸馏时需注意负分支信息的保留。Agent Pulse · 分析
On-policy distillation (OPD) 通过沿当前学生生成的轨迹查询教师来适配扩散模型，但 classifier-free guidance (CFG) 作为现代扩散系统的默认组件，其下的行为仍不清楚。现有 OPD 方法自然地将速度匹配扩展到 CFG 组合预测，直接匹配教师和学生的引导速度。本文表明该目标在分支层面欠定：正负分支误差可在引导预测中相互补偿。通过两个对比案例，作者发现当共享负条件时，朴素匹配仍然有效，因为两个分支误差共同下降。然而，当模型的本地 CFG 模式在教师负分支中保留学生无法获取的特权信息时，这种联合下降被破坏，组合目标引发对抗性分支误差动态：正分支误差减小而负分支误差增大。作者将此故障模式称为负分支不对称 (NBA)。为解决 NBA，作者引入了 Positive-Direction Matching (PDM)，一种分支感知的 OPD 目标。
该研究揭示了扩散模型蒸馏中一个被忽视的细节：CFG 组合预测下的分支误差耦合。当教师负分支包含特权信息时，直接匹配引导速度会导致负分支误差增大，可能影响生成质量。PDM 通过分支感知匹配来解耦误差，可能提升蒸馏模型的保真度。下一步可验证 PDM 在更大规模模型和不同 CFG 模式下的效果。
扩散模型蒸馏是加速生成的重要方向，但 CFG 的引入带来了新的挑战。该工作提醒从业者，蒸馏目标的设计需考虑 CFG 的分支结构，否则可能引入偏差。对于采用 CFG 的扩散模型（如 Stable Diffusion），蒸馏时需注意负分支信息的保留。
对于依赖扩散模型生成内容的企业（如广告、设计、影视），更高效的蒸馏意味着更低的推理成本和更快的生成速度。PDM 解决了蒸馏中的潜在质量下降问题，有助于在保持生成质量的同时压缩模型，降低部署成本。
PDM 可能成为扩散模型蒸馏的标准组件，尤其是在教师使用复杂 CFG 模式时。未来可探索 PDM 与其他蒸馏方法的结合，以及其在视频生成、3D 生成等领域的适用性。