Reasoning Consensus: Structural Ensembling of LLM Reasoning via Weighted DAG Aggregation
arXiv 论文 2607.27783v1 提出 Reasoning Consensus 框架,通过加权合并从多个 LLM 推理链中提取的有向无环图(DAG)来集成推理结构,而非仅集成答案。每个步骤的权重由独立证明该步骤的轨迹数量决定。在六个基准测试中,该集成方法优于匹配预算的多数投票基线,在 MuSR-MM 上最大准确率提升 3.1%。在单模型上,该框架在相同轨迹预算下匹配或超过自洽性,同时提供可检查的共识推理图。集成权重与 LLM 评判的推理质量排名相关,Spearman ρ=0.30-0.51。
Development
- First ReportReasoning Consensus: Structural Ensembling of LLM Reasoning via Weighted DAG AggregationarXiv cs.CL
- Current Assessment该研究可能推动推理集成方法的发展,从答案集成转向结构集成,为高 stakes 任务提供更可靠的推理过程。Agent Pulse · analysis
arXiv 论文 2607.27783v1 提出 Reasoning Consensus 框架,通过加权合并从多个 LLM 推理链中提取的有向无环图(DAG)来集成推理结构,而非仅集成答案。每个步骤的权重由独立证明该步骤的轨迹数量决定。在六个基准测试中,该集成方法优于匹配预算的多数投票基线,在 MuSR-MM 上最大准确率提升 3.1%。在单模型上,该框架在相同轨迹预算下匹配或超过自洽性,同时提供可检查的共识推理图。集成权重与 LLM 评判的推理质量排名相关,Spearman ρ=0.30-0.51。
该方法将推理链转化为 DAG 结构,并通过加权合并实现集成,权重基于轨迹的独立证明次数。这提供了一种可检查的共识推理图,可能有助于提高推理的可解释性。与自洽性相比,在相同轨迹预算下匹配或超过其性能,表明结构集成可能比简单的答案投票更有效。
该研究可能推动推理集成方法的发展,从答案集成转向结构集成,为高 stakes 任务提供更可靠的推理过程。
对于需要高可靠性推理的应用(如法律、科学、医疗),该方法可能提供更可信的决策支持,从而提升商业价值。
未来可能看到更多基于结构集成的推理方法,以及将共识推理图用于可解释 AI 系统的趋势。