AGENT PULSESJCPal Special EditionAI 行业证据与趋势
2026年8月2日 · llama.cpp

b10235

发生了什么

llama.cpp 发布 b10235 版本,新增 SILU_BACK 算子,支持 f32 类型,并移除 ggml-metal-ops.cpp 中的冗余断言。该版本提供 macOS、Linux、Windows、Android 等多平台构建,包括 CPU、Vulkan、CUDA 等后端。

EVENT STORY

发展脉络

  1. 首次出现b10235llama.cpp
  2. 当前判断llama.cpp 持续迭代,反映了开源社区在本地推理和训练方面的活跃。新增反向算子可能为在 Apple Silicon 等设备上进行微调提供基础,但当前仅支持 f32,可能落后于其他框架的混合精度支持。Agent Pulse · 分析
改变了什么

llama.cpp 发布 b10235 版本,主要更新是在 Metal 后端新增 SILU_BACK 算子,用于支持 SiLU 激活函数的反向传播,数据类型为 f32。同时移除了 ggml-metal-ops.cpp 中的冗余断言。该版本提供了广泛的平台支持,包括 macOS(Apple Silicon、Intel)、Linux(CPU、Vulkan、ROCm、OpenVINO、SYCL)、Windows(CPU、CUDA、Vulkan、OpenCL、HIP)、Android(CPU)以及 openEuler 等。

能力边界怎么变了

SILU_BACK 算子的实现表明 llama.cpp 正在完善对 SiLU 激活函数反向传播的支持,这对于训练或微调模型至关重要。移除冗余断言可能意味着代码路径的简化或性能优化。该算子仅支持 f32 类型,可能限制其在混合精度训练中的应用。

为什么重要

llama.cpp 持续迭代,反映了开源社区在本地推理和训练方面的活跃。新增反向算子可能为在 Apple Silicon 等设备上进行微调提供基础,但当前仅支持 f32,可能落后于其他框架的混合精度支持。

对谁有影响

对于依赖 llama.cpp 进行本地推理或微调的企业,该更新可能带来性能改进或新功能,但影响有限,因为仅涉及一个算子。

接下来观察

未来可能看到 SILU_BACK 扩展到其他数据类型(如 f16、bf16),以及在其他后端(如 CUDA、Vulkan)中实现。这将增强 llama.cpp 在训练场景的实用性。