b10278
llama.cpp 发布 b10278 版本，从所有构建脚本中移除了 GGML_METAL_USE_BF16 选项。该版本支持 macOS Apple Silicon (arm64) 及 KleidiAI 启用版本，但 macOS Intel (x64) 和 iOS XCFramework 被禁用。Linux 支持多种 CPU 和 GPU 后端，包括 Vulkan、ROCm 7.2、OpenVINO、SYCL 等。Android 支持 arm64 CPU，Windows 支持多种后端，包括 CUDA 12.4 和 13.3 DLLs、Vulkan、OpenVINO、SYCL、HIP。openEuler 平台被禁用。
Development
- First Reportb10278llama.cpp
- Current Assessmentllama.cpp 作为流行的本地推理框架，其构建配置的调整反映了对多平台支持的持续优化。禁用某些平台可能表明维护资源集中，或这些平台的使用率较低。移除 BF16 支持可能影响依赖该特性的用户，但整体上体现了开源项目在硬件适配上的动态调整。Agent Pulse · analysis
llama.cpp 在 2026 年 8 月 5 日发布了 b10278 版本，主要变更是在所有构建脚本中移除 GGML_METAL_USE_BF16 宏。该版本提供了广泛的平台支持，包括 macOS、Linux、Android、Windows 和 openEuler。macOS 支持 Apple Silicon 和 KleidiAI 加速，但 Intel 和 iOS 被禁用。Linux 支持多种 CPU 架构和 GPU 后端，如 Vulkan、ROCm、OpenVINO、SYCL。Windows 支持 CUDA、Vulkan、OpenVINO、SYCL 和 HIP。openEuler 平台被禁用。此版本反映了 llama.cpp 对构建配置的调整，可能影响特定硬件上的性能优化。
移除 GGML_METAL_USE_BF16 可能意味着在 Apple Silicon 上不再使用 BF16 精度进行 Metal 计算，这可能是为了稳定性和兼容性考虑。KleidiAI 的启用表明对 ARM 平台上的 AI 加速库的支持。禁用 macOS Intel 和 iOS 可能表明维护重点转向 Apple Silicon。对于开发者，此变更可能影响在 Metal 后端上的性能调优，需要关注后续版本是否引入替代的精度控制选项。
llama.cpp 作为流行的本地推理框架，其构建配置的调整反映了对多平台支持的持续优化。禁用某些平台可能表明维护资源集中，或这些平台的使用率较低。移除 BF16 支持可能影响依赖该特性的用户，但整体上体现了开源项目在硬件适配上的动态调整。
对于依赖 llama.cpp 进行本地推理的企业，此版本可能影响其部署策略。移除 BF16 支持可能降低某些硬件上的性能，但 KleidiAI 的启用可能提升 ARM 设备的效率。企业需要评估其目标平台的兼容性，并考虑是否升级或保持旧版本。
后续版本可能会引入新的精度控制机制，或重新启用对 Intel 和 iOS 的支持。KleidiAI 的集成可能进一步扩展，以提升 ARM 设备上的推理性能。开发者应关注 llama.cpp 的更新日志，以了解对特定硬件的影响。