b10251
llama.cpp 发布 b10251 版本，新增对 GLM-4.7-Flash 模型的多 Token 预测（MTP）支持。该版本提供 macOS、iOS、Linux、Android、Windows 及 openEuler 等多平台构建，涵盖 CPU、Vulkan、CUDA、ROCm、OpenVINO、SYCL 等后端。
Development
- First Reportb10251llama.cpp
- Current Assessmentllama.cpp 作为开源推理引擎，持续快速适配新模型（如 GLM-4.7-Flash）和多种硬件后端，反映了开源生态在 AI 推理领域的活跃度。这有助于降低模型部署成本，推动 AI 应用的普及。Agent Pulse · analysis
llama.cpp 在 2026 年 8 月 4 日发布 b10251 版本，主要新增对 GLM-4.7-Flash 模型的多 Token 预测（MTP）支持。该版本提供了广泛的平台支持，包括 macOS（Apple Silicon 和 Intel）、iOS、Linux（多种 CPU 架构及 Vulkan、ROCm、OpenVINO、SYCL 等后端）、Android（arm64 CPU）、Windows（CPU、CUDA 12/13、Vulkan、OpenVINO、SYCL、HIP 等）以及 openEuler（x86 和 aarch64，支持 310p 和 910b 加速卡）。这体现了 llama.cpp 持续扩展模型兼容性和硬件适配的努力。
MTP（多 Token 预测）是一种加速推理的技术，通过同时预测多个未来 token 来减少解码步骤，从而提升生成速度。llama.cpp 对 GLM-4.7-Flash 的 MTP 支持意味着该模型在 llama.cpp 上的推理效率可能得到提升。开发者可以关注该版本中 MTP 的具体实现方式、性能提升幅度以及是否支持其他模型。
llama.cpp 作为开源推理引擎，持续快速适配新模型（如 GLM-4.7-Flash）和多种硬件后端，反映了开源生态在 AI 推理领域的活跃度。这有助于降低模型部署成本，推动 AI 应用的普及。
对于依赖 llama.cpp 进行模型部署的企业，该版本提供了对 GLM-4.7-Flash 的支持，可能降低推理成本并提升性能。同时，多平台支持有助于在不同硬件环境下部署，提高灵活性。
未来，llama.cpp 可能会继续扩展对更多模型和硬件的支持，MTP 等加速技术也可能成为标配。开发者可以关注后续版本对 MTP 的优化以及更多模型的适配。