Look Ahead Before You Distill: Future Trajectory Validation of Teacher Guidance for Agentic On-Policy Distillation
FutureBridge-OPD (FTB) 是一种用于智能体在线策略蒸馏（OPD）的方法，在高分歧状态执行短教师桥接，并通过学生后续轨迹评估桥接是否增加正蒸馏信号密度。在 ALFWorld、WebShop 和 ScienceWorld 上，以 Qwen3-32B 教师蒸馏至 Qwen3-1.7B 学生，FTB 平均优于 vanilla OPD 16.6 分、优于 TCOD 7.6 分，且在不同学生规模和教师设置下保持有效。代码公开于 https://github.com/ChenChiShui/FutureBridge-OPD。
Development
- First ReportLook Ahead Before You Distill: Future Trajectory Validation of Teacher Guidance for Agentic On-Policy DistillationarXiv cs.CL
- Current Assessment该工作表明，智能体蒸馏正从静态状态匹配转向动态轨迹验证，强调教师指导的长期影响而非即时收益。这反映了行业对智能体训练中分布偏移问题的关注，可能推动更高效的模型压缩和知识迁移方法，尤其在多轮交互场景中。Agent Pulse · analysis
在线策略蒸馏（OPD）在智能体多轮任务中，学生偏差可能随时间累积，使轨迹偏离教师有效指导的状态。论文提出 FutureBridge-OPD (FTB)，在高分歧状态执行短教师桥接，并利用学生后续轨迹判断桥接是否增加正蒸馏信号密度。在 ALFWorld、WebShop 和 ScienceWorld 基准上，以 Qwen3-32B 教师蒸馏至 Qwen3-1.7B 学生，FTB 平均优于 vanilla OPD 16.6 分、优于 TCOD 7.6 分，且在不同学生规模和教师设置下保持有效。代码已公开。
FTB 的核心创新在于将教师指导的评估从即时状态扩展到未来轨迹：通过短桥接模拟教师干预后的学生轨迹，再判断正信号密度是否提升，从而避免盲目跟随教师。这解决了 OPD 中分布偏移累积的问题，为智能体蒸馏提供了更稳健的指导信号选择机制。
该工作表明，智能体蒸馏正从静态状态匹配转向动态轨迹验证，强调教师指导的长期影响而非即时收益。这反映了行业对智能体训练中分布偏移问题的关注，可能推动更高效的模型压缩和知识迁移方法，尤其在多轮交互场景中。
FTB 通过提升蒸馏效率，可降低智能体模型的训练和推理成本，使小模型在复杂任务中接近大模型性能。这对依赖大规模智能体部署的企业具有成本优势，可能加速模型压缩技术的商业化应用。
未来可验证的信号包括：FTB 在更大规模模型或更多任务上的泛化表现，以及其与在线强化学习结合的效果。若该方法被广泛采用，可能成为智能体蒸馏的标准组件，影响模型部署效率。