b10146
llama.cpp 发布 b10146 版本,新增 ggml-cpu 在 PowerPC 上的 BF16 tiled gemm 优化(PR #26068)。该版本同时提供 macOS、Linux、Windows、Android、openEuler 等多个平台的构建产物,其中 macOS Intel、openEuler 相关构建被标记为 DISABLED。
发展脉络
- 首次出现b10146llama.cpp
- 当前判断llama.cpp 持续维护多平台构建矩阵,但部分平台(如 macOS Intel、openEuler)被禁用,可能反映维护资源向主流架构集中。PowerPC 优化虽小众,但体现了开源社区对多样化硬件的覆盖意愿,与商业产品聚焦主流平台形成对比。Agent Pulse · 分析
llama.cpp 于 2026 年 7 月 27 日发布 b10146 版本,主要变更是在 ggml-cpu 中启用了 PowerPC 架构上的 BF16 tiled gemm 优化(PR #26068)。该版本提供了广泛的平台支持矩阵,包括 macOS(Apple Silicon、Intel 被禁用)、Linux(多种 CPU 和加速器后端)、Windows(CPU、CUDA、Vulkan 等)、Android、openEuler 等。值得注意的是,macOS Intel 和 openEuler 的某些构建被标记为 DISABLED,可能反映了维护策略或兼容性问题。
BF16 tiled gemm 优化在 PowerPC 上的启用,表明 llama.cpp 正在扩展对非主流架构的推理优化。tiled gemm 通过分块提高缓存利用率,BF16 则降低内存带宽需求。这暗示 ggml 后端对 CPU 指令集(如 VSX)的适配在推进,但具体性能提升幅度未在证据中量化。
llama.cpp 持续维护多平台构建矩阵,但部分平台(如 macOS Intel、openEuler)被禁用,可能反映维护资源向主流架构集中。PowerPC 优化虽小众,但体现了开源社区对多样化硬件的覆盖意愿,与商业产品聚焦主流平台形成对比。
对于依赖 llama.cpp 在非主流硬件(如 PowerPC 服务器)上部署推理的企业,该优化可能降低单位推理成本。但鉴于平台禁用情况,企业需评估长期维护风险,并考虑替代方案。
后续可关注该优化在 PowerPC 上的实际性能基准测试,以及是否会被扩展到其他架构(如 RISC-V)。同时,观察 macOS Intel 和 openEuler 构建是否会在未来版本中恢复。