Reasoning Consensus: Structural Ensembling of LLM Reasoning via Weighted DAG Aggregation
arXiv 论文 2607.27783v1 提出 Reasoning Consensus 框架，通过加权合并从多个 LLM 推理链中提取的有向无环图（DAG）来集成推理结构，而非仅集成答案。每个步骤的权重由独立证明该步骤的轨迹数量决定。在六个基准测试中，该集成方法优于匹配预算的多数投票基线，在 MuSR-MM 上最大准确率提升 3.1%。在单模型上，该框架在相同轨迹预算下匹配或超过自洽性，同时提供可检查的共识推理图。集成权重与 LLM 评判的推理质量排名相关，Spearman ρ=0.30-0.51。
发展脉络
- 首次出现Reasoning Consensus: Structural Ensembling of LLM Reasoning via Weighted DAG AggregationarXiv cs.CL
- 当前判断该研究可能推动推理集成方法的发展，从答案集成转向结构集成，为高 stakes 任务提供更可靠的推理过程。Agent Pulse · 分析
arXiv 论文 2607.27783v1 提出 Reasoning Consensus 框架，通过加权合并从多个 LLM 推理链中提取的有向无环图（DAG）来集成推理结构，而非仅集成答案。每个步骤的权重由独立证明该步骤的轨迹数量决定。在六个基准测试中，该集成方法优于匹配预算的多数投票基线，在 MuSR-MM 上最大准确率提升 3.1%。在单模型上，该框架在相同轨迹预算下匹配或超过自洽性，同时提供可检查的共识推理图。集成权重与 LLM 评判的推理质量排名相关，Spearman ρ=0.30-0.51。
该方法将推理链转化为 DAG 结构，并通过加权合并实现集成，权重基于轨迹的独立证明次数。这提供了一种可检查的共识推理图，可能有助于提高推理的可解释性。与自洽性相比，在相同轨迹预算下匹配或超过其性能，表明结构集成可能比简单的答案投票更有效。
该研究可能推动推理集成方法的发展，从答案集成转向结构集成，为高 stakes 任务提供更可靠的推理过程。
对于需要高可靠性推理的应用（如法律、科学、医疗），该方法可能提供更可信的决策支持，从而提升商业价值。
未来可能看到更多基于结构集成的推理方法，以及将共识推理图用于可解释 AI 系统的趋势。