Budget-Aware LLM Discovery via Cost-Calibrated Frontier Utility
CostAda 是一种成本校准的自适应控制器,基于成本校准的前沿效用(cost-calibrated frontier utility),在固定搜索侧 token 预算下,根据前沿进展与实现成本的比值以及剩余预算来调整局部探索强度、前沿分配和预算策略干预。实验表明,CostAda 在达到最强基线完整预算质量时,消耗的 token 更少。
发展脉络
- 首次出现Budget-Aware LLM Discovery via Cost-Calibrated Frontier UtilityarXiv cs.AI
- 当前判断该工作表明,LLM 推理时搜索的成本意识正从简单的预算截断转向细粒度的成本-收益权衡。这预示着未来 LLM 代理系统将更注重 token 经济性,可能推动成本感知的搜索算法成为标准组件。可验证的下一信号:是否有主流 LLM 平台或代理框架集成类似成本校准的搜索策略。Agent Pulse · 分析
论文《Budget-Aware LLM Discovery via Cost-Calibrated Frontier Utility》提出 CostAda,一种成本校准的自适应控制器,用于大语言模型在科学和算法发现中的推理时搜索。现有方法仅根据分数进展分配信用,忽略不同搜索动作(如提示长度、重试、指导调用)的 token 成本差异。论文证明,成本盲信用在前沿多样化和成本分化时,会丧失几乎所有可达到的质量。CostAda 通过成本校准的前沿效用,将前沿进展与实现成本关联,并根据剩余预算调整搜索策略。实验显示,CostAda 在达到最强基线完整预算质量时,消耗的 token 更少。
CostAda 的核心创新在于将 token 成本显式纳入搜索信用分配,通过成本校准的前沿效用动态调整探索强度、前沿分配和策略干预。这解决了现有方法在成本异构场景下的信用分配失效问题。可验证的下一信号:是否有后续工作将 CostAda 扩展到多步推理或工具调用场景,并量化成本节省。
该工作表明,LLM 推理时搜索的成本意识正从简单的预算截断转向细粒度的成本-收益权衡。这预示着未来 LLM 代理系统将更注重 token 经济性,可能推动成本感知的搜索算法成为标准组件。可验证的下一信号:是否有主流 LLM 平台或代理框架集成类似成本校准的搜索策略。
对于提供 LLM 推理服务的公司,CostAda 可直接降低搜索类任务的 token 消耗,从而降低运营成本。对于使用 LLM 进行自动化发现的客户,更高效的搜索意味着更快的迭代和更低的 API 费用。可验证的下一信号:是否有云服务商或 API 提供商推出基于成本校准搜索的定价或优化方案。
CostAda 为预算受限的 LLM 发现任务提供了更高效的搜索策略,未来可能应用于自动机器学习、药物发现等需要大量推理搜索的领域。可验证的下一信号:是否有研究将 CostAda 应用于实际科学发现任务(如蛋白质设计)并报告成本节省。