Relay, Don't Route: Adaptive Population Handoff for Cost-Efficient LLM-Driven Evolution
arXiv 论文 2608.05651v1 提出 Relay, Don't Route 框架，通过自适应种群交接（adaptive population handoff）在固定推理预算下结合廉价与强模型进行 LLM 驱动的演化。研究发现搜索进展高度前置，早期轨迹信息有噪声但有用，廉价模型能以更低成本恢复强模型早期进展的大部分。
Development
- First ReportRelay, Don't Route: Adaptive Population Handoff for Cost-Efficient LLM-Driven EvolutionarXiv cs.CL
- Current Assessment该研究反映了 LLM 驱动演化领域对成本效率的关注，表明在推理成本成为瓶颈时，混合模型策略可能成为趋势。这可能导致更多研究关注预算感知的算法设计，而非单纯追求模型能力。可验证的下一信号是后续是否有工作将该框架应用于更广泛的演化任务或与其他调度策略进行比较。Agent Pulse · analysis
arXiv 论文 2608.05651v1 提出 Relay, Don't Route 框架，针对 LLM 驱动演化中全程使用强模型成本高昂的问题，提出在固定推理预算下结合廉价与强模型。现有方法在单个查询或变异步骤层面分配模型，忽略了演化搜索的状态性。论文通过实证分析发现，搜索进展高度前置，早期轨迹性能有信息但噪声大，廉价模型能以更低成本恢复强模型早期进展的大部分。基于此，提出训练免费的框架，通过自适应种群交接将预算分配从单个调用转移到演化种群。廉价模型在 bandit 调度器分配的短块中探索多条轨迹，并定义 Relay Gain 作为紧凑、质量多样候选库的边际改进。
该框架的核心创新在于将模型分配从查询级别提升到种群级别，利用演化搜索的状态性。bandit 调度器动态决定何时将种群从廉价模型切换到强模型，以最大化 Relay Gain。这暗示了在固定预算下，通过早期廉价探索和后期强模型精炼，可以在成本与性能之间取得更好平衡。可验证的下一信号是论文中是否报告了在标准程序合成基准上的具体性能提升和成本节省数据。
该研究反映了 LLM 驱动演化领域对成本效率的关注，表明在推理成本成为瓶颈时，混合模型策略可能成为趋势。这可能导致更多研究关注预算感知的算法设计，而非单纯追求模型能力。可验证的下一信号是后续是否有工作将该框架应用于更广泛的演化任务或与其他调度策略进行比较。
对于提供 LLM 驱动演化服务的公司，该框架可能降低计算成本，使更多用户能够负担得起。对于模型提供商，这可能影响定价策略，因为廉价模型在早期阶段可能承担更多工作。可验证的下一信号是是否有商业产品采用类似策略并报告成本节省。
未来，该框架可能扩展到其他状态性搜索问题，如神经架构搜索或超参数优化。随着廉价模型能力的提升，这种混合策略的性价比可能进一步提高。可验证的下一信号是论文是否开源代码或提供更详细的实验设置，以便复现和扩展。