b10154
llama.cpp 发布 b10154 版本，新增 common_print_available_devices() 函数，支持 macOS Apple Silicon (arm64)、macOS Intel (x64)、iOS XCFramework、Linux (x64/arm64/s390x, Vulkan/ROCm/OpenVINO/SYCL)、Android arm64、Windows (x64/arm64, CUDA 12/13, Vulkan, OpenVINO, SYCL, HIP)、openEuler (x86/aarch64) 等多种后端。
Development
- First Reportb10154llama.cpp
- Current Assessmentllama.cpp 持续扩展后端支持，尤其是对 openEuler 和多种 GPU 后端的支持，反映了开源推理框架在国产化生态和异构计算场景中的布局。这有助于降低 LLM 推理的硬件门槛，推动边缘部署和私有化部署。Agent Pulse · analysis
llama.cpp 在 b10154 版本中新增 common_print_available_devices() 函数，用于打印可用设备列表。该版本扩展了平台支持，包括 macOS Apple Silicon (arm64) 和 Intel (x64)、iOS XCFramework、Linux 多架构（x64/arm64/s390x）及多种后端（Vulkan、ROCm 7.2、OpenVINO、SYCL FP32/FP16）、Android arm64、Windows x64/arm64 及 CUDA 12/13、Vulkan、OpenVINO、SYCL、HIP 后端，以及 openEuler x86/aarch64 等。
common_print_available_devices() 的引入表明 llama.cpp 正在标准化设备枚举接口，便于用户和上层工具查询可用计算后端。支持的后端种类繁多，覆盖 CPU、GPU（CUDA、ROCm、Vulkan）、加速器（OpenVINO、SYCL、HIP）及移动端（iOS、Android），体现了跨平台兼容性设计。
llama.cpp 持续扩展后端支持，尤其是对 openEuler 和多种 GPU 后端的支持，反映了开源推理框架在国产化生态和异构计算场景中的布局。这有助于降低 LLM 推理的硬件门槛，推动边缘部署和私有化部署。
对于依赖 llama.cpp 进行推理部署的企业，b10154 版本降低了跨平台适配成本，尤其是对国产操作系统 openEuler 的支持，有助于满足信创需求。
后续可关注 llama.cpp 是否进一步集成更多国产芯片后端（如昇腾、寒武纪），以及 common_print_available_devices() 是否成为其他推理框架的参考实现。