Self-Improving Large Language Models via Progressive Experience Evolution
arXiv 论文 2608.02139v1 提出 SPEE（Self-Progressive Experience Evolution），一种统一的后训练框架，依次进行显式经验演化与隐式策略优化。显式阶段从多次交互轨迹中提取、验证并逐步演化可迁移经验，随后通过特权引导的在线策略自蒸馏（OPSD）将经验内化到策略中。
Development
- First ReportSelf-Improving Large Language Models via Progressive Experience EvolutionarXiv cs.CL
- Current Assessment该框架可能推动自我改进模型从测试时计算转向训练时内化，影响后训练 pipeline 的设计。若 SPEE 有效，可能加速模型从交互中持续学习，减少人工标注依赖。可验证的下一信号：是否有后续工作或复现实验验证其在不同规模模型上的效果。Agent Pulse · analysis
arXiv 论文 2608.02139v1 提出 SPEE（Self-Progressive Experience Evolution），一种统一的后训练框架，旨在弥合测试时自我改进与训练时优化之间的鸿沟。现有范式要么能显式提取经验但无法内化到参数，要么能更新参数但缺乏显式积累可迁移经验的机制。SPEE 通过两个阶段解决此问题：显式经验演化阶段从多次交互轨迹中反思、提取、验证并逐步演化可迁移经验；随后通过特权引导的在线策略自蒸馏（OPSD）将经验内化到策略中。论文强调经验蒸馏是关键中间阶段。
SPEE 的核心是经验蒸馏：将交互轨迹转化为可迁移经验，再通过特权引导的在线策略自蒸馏（OPSD）内化到模型参数。这暗示后训练流程可能从单一策略优化转向显式经验提取与内化的两阶段设计。可验证的下一信号：论文是否公开代码或消融实验，证明经验演化步骤对最终性能的贡献。
该框架可能推动自我改进模型从测试时计算转向训练时内化，影响后训练 pipeline 的设计。若 SPEE 有效，可能加速模型从交互中持续学习，减少人工标注依赖。可验证的下一信号：是否有后续工作或复现实验验证其在不同规模模型上的效果。
对模型提供商，SPEE 可能降低持续改进成本，通过自动经验积累减少人工反馈。对应用开发者，可能获得更易自我进化的模型，减少微调开销。可验证的下一信号：是否有商业模型采用类似框架。
SPEE 可能成为自我改进模型的标准组件，但需更多实验验证。未来可能看到经验蒸馏与在线强化学习结合，或应用于多轮交互场景。可验证的下一信号：论文是否发布代码或扩展实验。