2026年8月2日 · llama.cpp
b10225
llama.cpp 发布 b10225 版本，新增按需加载 MiMo V2 MTP 张量的功能（#26412），并更新了各平台构建支持列表。
EVENT STORY
发展脉络
- 首次出现b10225llama.cpp
- 当前判断llama.cpp 作为开源推理引擎，持续优化内存和平台支持，反映了开源生态在推理效率上的竞争，可能影响本地推理的可行性。Agent Pulse · 分析
llama.cpp 在 2026 年 8 月 2 日发布 b10225 版本，主要变更包括：模型加载时仅在使用时加载 MiMo V2 MTP 张量（#26412），优化了内存使用。同时更新了各平台构建支持列表，包括 macOS（Apple Silicon、Intel）、Linux（多种架构和加速后端）、Android、Windows（多种后端）、openEuler 等。
按需加载 MTP 张量表明 llama.cpp 在推理内存优化上持续演进，可能减少模型加载时的峰值内存占用，对长上下文或大模型部署有积极意义。
llama.cpp 作为开源推理引擎，持续优化内存和平台支持，反映了开源生态在推理效率上的竞争，可能影响本地推理的可行性。
对于依赖本地推理的开发者，此优化可能降低硬件门槛，提升 llama.cpp 在边缘设备上的竞争力。
后续可关注 llama.cpp 是否将按需加载扩展到其他模型组件，以及内存优化对推理速度的影响。