2026年8月5日 · llama.cpp
b10284
llama.cpp 发布 b10284 版本，修复了 MTP 层的内存分配问题（#26605）。该版本提供 macOS、iOS、Linux、Android、Windows 及 openEuler 等多个平台的构建，涵盖 CPU、Vulkan、ROCm、OpenVINO、SYCL、CUDA、HIP 等后端。
EVENT STORY
发展脉络
- 首次出现b10284llama.cpp
- 当前判断llama.cpp 持续更新表明开源推理生态活跃，跨平台支持广泛，但部分平台禁用可能反映维护资源分配或硬件兼容性挑战。Agent Pulse · 分析
llama.cpp 发布 b10284 版本，主要修复 MTP（Multi-Token Prediction）层的内存分配问题。该版本支持广泛的平台和后端，包括 macOS Apple Silicon、Linux 各 CPU 架构、Vulkan、ROCm、OpenVINO、SYCL、CUDA、HIP 等，并覆盖 Android、Windows 和 openEuler。部分平台如 macOS Intel 和 openEuler 的某些配置被禁用。
MTP 层内存分配修复可能影响多 token 预测的推理效率，但具体改进幅度未在证据中量化。该修复可能减少内存占用或避免分配错误，对长上下文或批量推理场景有潜在影响。
llama.cpp 持续更新表明开源推理生态活跃，跨平台支持广泛，但部分平台禁用可能反映维护资源分配或硬件兼容性挑战。
对依赖 llama.cpp 的开发者或企业，该修复可能提升推理稳定性，但商业价值取决于实际应用场景。
后续版本可能继续优化 MTP 或其他推理特性，但需关注官方发布说明以确认具体改进。