2026年8月6日 · llama.cpp
b10290
llama.cpp 发布 b10290 版本，新增 ggml_build_forward_order 函数，用于在计算图中插入节点而不设置 compute 标志，以解决 mtmd 音频图中 GEN_WAV 调用执行 GEN_CODE 分支时因陈旧输入触发 get_rows 断言的问题。
EVENT STORY
发展脉络
- 首次出现b10290llama.cpp
- 当前判断llama.cpp 作为广泛使用的推理引擎，其内部修复反映了边缘设备上多模态模型推理的复杂性，可能推动社区关注类似问题，并促进相关工具链的改进。Agent Pulse · 分析
llama.cpp 在 b10290 版本中引入 ggml_build_forward_order，该函数允许在计算图中插入节点而不标记为需要计算，从而避免 ggml_build_forward_expand 的副作用。此前，在 mtmd 音频图中，使用 ggml_build_forward_expand 作为排序提示会导致未选中的分支也被执行，且使用未上传的输入，导致 GEN_WAV 调用时执行 GEN_CODE 分支并触发 get_rows 断言。新函数在分支实际被选中时才恢复 compute 标志，修复了该问题。
该修复表明 ggml 计算图构建需要区分排序提示与实际计算依赖，避免因标记所有祖先节点导致未选分支执行。这提示在动态图执行中，需要更精细的控制节点激活状态，可能影响其他依赖 ggml 的推理框架。
llama.cpp 作为广泛使用的推理引擎，其内部修复反映了边缘设备上多模态模型推理的复杂性，可能推动社区关注类似问题，并促进相关工具链的改进。
该修复提升了 llama.cpp 在音频等多模态任务上的稳定性，可能增强其作为推理后端的可靠性，对依赖 llama.cpp 的产品有积极影响。
后续可关注 ggml 是否将 ggml_build_forward_order 推广到其他图构建场景，以及是否出现类似机制在其他推理引擎中应用。