2026年8月2日 · llama.cpp
b10234
llama.cpp 发布 b10234 版本，为 Metal 后端添加 F16 支持用于二元运算（PR #26465）。该版本支持 macOS Apple Silicon (arm64)、iOS、Linux (CPU/Vulkan/ROCm/OpenVINO/SYCL)、Android、Windows (CPU/CUDA/Vulkan/OpenVINO/SYCL/HIP) 等平台，并提供了 KleidiAI 加速选项。
EVENT STORY
发展脉络
- 首次出现b10234llama.cpp
- 当前判断llama.cpp 持续扩展多平台支持，包括 KleidiAI 加速，表明开源推理生态正优化特定硬件（如 Apple Silicon）上的性能，以提升本地推理体验。Agent Pulse · 分析
llama.cpp 发布 b10234 版本，为 Metal 后端添加 F16 支持用于二元运算（PR #26465）。该版本支持 macOS Apple Silicon (arm64)、iOS、Linux (CPU/Vulkan/ROCm/OpenVINO/SYCL)、Android、Windows (CPU/CUDA/Vulkan/OpenVINO/SYCL/HIP) 等平台，并提供了 KleidiAI 加速选项。
Metal 后端对 F16 二元运算的支持可能提升 Apple Silicon 上 FP16 模型的推理性能，但具体性能提升幅度未在证据中量化。可验证的下一信号是后续基准测试或用户报告。
llama.cpp 持续扩展多平台支持，包括 KleidiAI 加速，表明开源推理生态正优化特定硬件（如 Apple Silicon）上的性能，以提升本地推理体验。
对于依赖本地推理的开发者，此更新可能降低 Apple 设备上的推理成本或延迟，但需实际测试验证。
未来可能看到更多针对 Apple Silicon 的优化，以及 F16 支持扩展到其他算子或后端。可关注后续版本更新。