2026年8月7日 · llama.cpp
b10318
llama.cpp 发布 b10318 版本，提供 macOS、iOS、Linux、Android、Windows、openEuler 等平台的预构建二进制，支持 CPU、Vulkan、ROCm、OpenVINO、SYCL、CUDA、HIP、OpenCL 等后端，并包含 KleidiAI 优化选项。
EVENT STORY
发展脉络
- 首次出现b10318llama.cpp
- 当前判断llama.cpp 的持续更新反映了开源推理框架在硬件适配上的竞争，旨在覆盖更多平台以降低推理成本。Agent Pulse · 分析
llama.cpp 发布 b10318 版本，更新了跨平台支持矩阵。该版本提供 macOS（Apple Silicon 和 Intel）、iOS、Linux（多种架构和推理后端）、Android、Windows（多种后端）以及 openEuler 的预构建二进制。特别地，macOS 版本包含 KleidiAI 优化选项，Windows 支持 CUDA 12 和 13，openEuler 支持昇腾 310p 和 910b。
该版本扩展了推理后端的覆盖范围，包括 Vulkan、ROCm、OpenVINO、SYCL、CUDA、HIP 和 OpenCL，表明 llama.cpp 致力于跨硬件适配。KleidiAI 的启用可能提升 Apple Silicon 上的推理性能。openEuler 对昇腾芯片的支持表明对国产硬件的适配。
llama.cpp 的持续更新反映了开源推理框架在硬件适配上的竞争，旨在覆盖更多平台以降低推理成本。
该版本为开发者提供了更多部署选项，可能降低推理成本，促进 llama.cpp 在更多场景的应用。
后续可关注对更多硬件（如新 GPU）的支持，以及性能基准测试的发布。