b10237
llama.cpp 发布 b10237 版本，新增对 DeepSeek V3.2 的 MTP（Multi-Token Prediction）支持，并在模型类型发现时无需包含 MTP 层。该版本提供多种平台构建，包括 macOS、Linux、Android、Windows 等。
发展脉络
- 首次出现b10237llama.cpp
- 当前判断llama.cpp 作为广泛使用的开源推理引擎，其对 DeepSeek V3.2 的 MTP 支持表明开源社区正在快速跟进前沿模型的推理优化技术。这可能推动 MTP 等加速技术在本地推理场景的普及，并影响模型部署的成本与效率。Agent Pulse · 分析
llama.cpp 在 2026 年 8 月 3 日发布 b10237 版本，主要新增对 DeepSeek V3.2 的 MTP（Multi-Token Prediction）支持。MTP 是一种多 token 预测技术，可能提升推理效率。该版本在模型类型发现时无需包含 MTP 层，简化了模型加载流程。同时，该版本提供了广泛的平台支持，包括 macOS、Linux、Android、Windows 等，并针对不同硬件（如 CPU、Vulkan、CUDA、ROCm 等）提供构建选项。
MTP 支持可能意味着 llama.cpp 能够利用 DeepSeek V3.2 的 MTP 层进行多 token 预测，从而可能减少推理步骤、提升吞吐量。但具体实现细节和性能提升幅度未在证据中说明。下一步可关注该版本在特定硬件上的基准测试结果，或对比启用/禁用 MTP 时的推理速度与内存占用。
llama.cpp 作为广泛使用的开源推理引擎，其对 DeepSeek V3.2 的 MTP 支持表明开源社区正在快速跟进前沿模型的推理优化技术。这可能推动 MTP 等加速技术在本地推理场景的普及，并影响模型部署的成本与效率。
对于依赖本地推理的企业，MTP 支持可能降低推理成本、提升响应速度，从而增强产品竞争力。开源实现有助于减少对专有推理服务的依赖，降低长期成本。
未来，llama.cpp 可能会进一步优化 MTP 支持，并扩展到其他模型。同时，MTP 技术可能成为推理加速的标准特性，影响模型设计与推理框架的演进。