2026年7月28日 · llama.cpp
b10159
llama.cpp 发布 b10159 版本，为 Metal 后端新增 FWHT 内核。
EVENT STORY
发展脉络
- 首次出现b10159llama.cpp
- 当前判断llama.cpp 持续优化跨平台推理性能，尤其是 Apple Silicon 和移动端，表明开源社区正努力降低大模型在消费级硬件上的部署门槛。Agent Pulse · 分析
2026年7月28日，llama.cpp 发布 b10159 版本，主要更新为 Metal 后端新增 FWHT（Fast Walsh-Hadamard Transform）内核。该版本支持 macOS Apple Silicon、macOS Intel、iOS、Linux（x64/arm64，含 Vulkan、ROCm、OpenVINO、SYCL）、Android arm64、Windows（x64/arm64，含 CUDA、Vulkan、OpenVINO、SYCL、HIP）以及 openEuler 等多种平台。
FWHT 内核的引入可能提升 Metal 后端上特定操作的性能，但具体加速效果未在证据中量化。后续可关注该内核在推理或训练中的实际加速比。
llama.cpp 持续优化跨平台推理性能，尤其是 Apple Silicon 和移动端，表明开源社区正努力降低大模型在消费级硬件上的部署门槛。
该更新增强了 llama.cpp 在 Apple 生态中的竞争力，可能吸引更多 macOS/iOS 开发者使用其进行本地推理，但商业价值需结合用户采用率评估。
未来可观察 FWHT 内核是否被其他推理框架采纳，以及是否带来显著的推理延迟改善。