AGENT PULSESJCPal Special EditionAI Industry Evidence & Trends
Aug 2, 2026 · llama.cpp

b10235

What Happened

llama.cpp 发布 b10235 版本,新增 SILU_BACK 算子,支持 f32 类型,并移除 ggml-metal-ops.cpp 中的冗余断言。该版本提供 macOS、Linux、Windows、Android 等多平台构建,包括 CPU、Vulkan、CUDA 等后端。

EVENT STORY

Development

  1. First Reportb10235llama.cpp
  2. Current Assessmentllama.cpp 持续迭代,反映了开源社区在本地推理和训练方面的活跃。新增反向算子可能为在 Apple Silicon 等设备上进行微调提供基础,但当前仅支持 f32,可能落后于其他框架的混合精度支持。Agent Pulse · analysis
What Changed

llama.cpp 发布 b10235 版本,主要更新是在 Metal 后端新增 SILU_BACK 算子,用于支持 SiLU 激活函数的反向传播,数据类型为 f32。同时移除了 ggml-metal-ops.cpp 中的冗余断言。该版本提供了广泛的平台支持,包括 macOS(Apple Silicon、Intel)、Linux(CPU、Vulkan、ROCm、OpenVINO、SYCL)、Windows(CPU、CUDA、Vulkan、OpenCL、HIP)、Android(CPU)以及 openEuler 等。

How the Capability Boundary Shifted

SILU_BACK 算子的实现表明 llama.cpp 正在完善对 SiLU 激活函数反向传播的支持,这对于训练或微调模型至关重要。移除冗余断言可能意味着代码路径的简化或性能优化。该算子仅支持 f32 类型,可能限制其在混合精度训练中的应用。

Why It Matters

llama.cpp 持续迭代,反映了开源社区在本地推理和训练方面的活跃。新增反向算子可能为在 Apple Silicon 等设备上进行微调提供基础,但当前仅支持 f32,可能落后于其他框架的混合精度支持。

Who It Affects

对于依赖 llama.cpp 进行本地推理或微调的企业,该更新可能带来性能改进或新功能,但影响有限,因为仅涉及一个算子。

What to Watch Next

未来可能看到 SILU_BACK 扩展到其他数据类型(如 f16、bf16),以及在其他后端(如 CUDA、Vulkan)中实现。这将增强 llama.cpp 在训练场景的实用性。