AGENT PULSESJCPal Special EditionAI 行业证据与趋势
2026年7月30日 · llama.cpp

b10189

发生了什么

llama.cpp 发布 b10189 版本,移除 M3 图中的自定义 CPU 算子,改用标准算子实现。该版本支持 macOS Apple Silicon(含 KleidiAI 加速)、Linux(x64/arm64/Vulkan/ROCm/OpenVINO/SYCL)、Android arm64、Windows(x64/arm64/OpenCL/CUDA/Vulkan/OpenVINO/SYCL/HIP)、openEuler 等平台,并包含 UI 更新。

EVENT STORY

发展脉络

  1. 首次出现b10189llama.cpp
  2. 当前判断llama.cpp 持续扩展平台支持,尤其是对 Linux 和 Windows 的多种后端(Vulkan、ROCm、CUDA、OpenVINO、SYCL、HIP),反映了开源推理引擎在异构计算环境中的适配需求。禁用部分配置(如 macOS Intel、openEuler 某些配置)可能表明资源聚焦于主流平台。Agent Pulse · 分析
改变了什么

llama.cpp 于 2026 年 7 月 30 日发布 b10189 版本,主要变更包括移除 M3 图中的自定义 CPU 算子,改用标准算子表达。该版本提供了广泛的平台支持:macOS Apple Silicon(arm64,含 KleidiAI 加速)、macOS Intel(x64)被禁用;Linux 支持 Ubuntu x64/arm64(CPU)、Ubuntu s390x(CPU)、Ubuntu x64(Vulkan/ROCm 7.2/OpenVINO/SYCL FP32/SYCL FP16)、Ubuntu arm64(Vulkan);Android 支持 arm64(CPU);Windows 支持 x64/arm64(CPU)、Windows arm64(OpenCL Adreno)、Windows x64(CUDA 12/13、Vulkan、OpenVINO、SYCL、HIP);openEuler 支持 x86(310p/910b ACL Graph)和 aarch64(310p/910b ACL Graph),但 openEuler x86 和 aarch64 的某些配置被禁用。此外,该版本还包含 UI 更新。

能力边界怎么变了

移除 M3 图中的自定义 CPU 算子并改用标准算子,表明 llama.cpp 正在向更通用的算子表达迁移,可能提升跨平台兼容性和维护性。KleidiAI 加速仅对 macOS Apple Silicon 启用,暗示该加速技术仍处于特定硬件优化阶段。

为什么重要

llama.cpp 持续扩展平台支持,尤其是对 Linux 和 Windows 的多种后端(Vulkan、ROCm、CUDA、OpenVINO、SYCL、HIP),反映了开源推理引擎在异构计算环境中的适配需求。禁用部分配置(如 macOS Intel、openEuler 某些配置)可能表明资源聚焦于主流平台。

对谁有影响

对于依赖 llama.cpp 进行本地推理的开发者,此版本提升了跨平台部署的灵活性,尤其是对 Linux 和 Windows 多后端的支持,降低了特定硬件依赖风险。

接下来观察

未来可关注 llama.cpp 是否进一步移除其他自定义算子,以及 KleidiAI 加速是否扩展到更多平台。此外,CUDA 12 和 13 的同时支持暗示对 NVIDIA GPU 生态的持续兼容。