b10186
llama.cpp 发布 b10186 版本，修复了 KleidiAI CI 和 stringop overflow 警告问题。该版本支持 macOS（Apple Silicon 含 KleidiAI 启用/禁用、Intel）、iOS、Linux（Ubuntu x64/arm64 CPU、Vulkan、ROCm、OpenVINO、SYCL）、Android（arm64 CPU）、Windows（x64/arm64 CPU、OpenCL Adreno、CUDA 12/13、Vulkan、OpenVINO、SYCL、HIP）、openEuler（x86/aarch64）等平台。
发展脉络
- 首次出现b10186llama.cpp
- 当前判断llama.cpp 的广泛平台支持（包括多种 GPU 后端和 CPU 架构）反映了开源推理引擎在跨平台部署上的成熟度，降低了 LLM 在边缘设备上的部署门槛。Agent Pulse · 分析
llama.cpp 发布 b10186 版本，主要修复了 KleidiAI CI 和 stringop overflow 警告问题。该版本扩展了平台支持，包括 macOS（Apple Silicon 含 KleidiAI 启用/禁用、Intel）、iOS、Linux（Ubuntu x64/arm64 CPU、Vulkan、ROCm、OpenVINO、SYCL）、Android（arm64 CPU）、Windows（x64/arm64 CPU、OpenCL Adreno、CUDA 12/13、Vulkan、OpenVINO、SYCL、HIP）、openEuler（x86/aarch64）等。
该版本修复了 KleidiAI CI 问题，表明 llama.cpp 正在持续集成 KleidiAI 加速库，可能针对 ARM 架构的推理优化。stringop overflow 警告的修复提升了代码安全性。
llama.cpp 的广泛平台支持（包括多种 GPU 后端和 CPU 架构）反映了开源推理引擎在跨平台部署上的成熟度，降低了 LLM 在边缘设备上的部署门槛。
对于开发者，llama.cpp 的跨平台支持意味着可以在多种硬件上运行 LLM 推理，无需依赖特定云服务，降低了推理成本。
后续可关注 KleidiAI 在更多 ARM 设备上的性能提升，以及 llama.cpp 对新兴硬件（如 Intel GPU、AMD ROCm）的持续优化。