b10232
llama.cpp 发布 b10232 版本，实现了 DeepSeek V4 超连接（hyper-connections），新增 GGML_OP_DSV4_HC_COMB、GGML_OP_DSV4_HC_PRE、GGML_OP_DSV4_HC_POST 算子，并针对 Metal 后端优化，支持 macOS/iOS 等平台。
发展脉络
- 首次出现b10232llama.cpp
- 当前判断llama.cpp 作为重要的开源推理引擎，对 DeepSeek V4 的快速支持反映了开源社区对前沿模型的跟进速度。这可能加速 DeepSeek V4 的采用，并影响其他推理框架的路线图。Agent Pulse · 分析
llama.cpp 在 2026 年 8 月 2 日发布 b10232 版本，实现了 DeepSeek V4 的超连接（hyper-connections）特性。该版本新增了三个 GGML 算子（GGML_OP_DSV4_HC_COMB、GGML_OP_DSV4_HC_PRE、GGML_OP_DSV4_HC_POST），并针对 Metal 后端使用 SIMDgroup 寄存器和 shuffle 优化内核。同时，该版本还增加了 Metal 调度和支持，并测试了生产环境的 Sinkhorn 迭代次数和嵌入宽度。该版本支持多种平台，包括 macOS Apple Silicon、iOS、Linux（CPU、Vulkan、ROCm 等）、Windows（CUDA、Vulkan 等）和 Android。
DeepSeek V4 的超连接（hyper-connections）可能是一种新的模型架构组件，用于改进信息流动或梯度传播。llama.cpp 的实现表明该架构已进入开源推理生态，但具体效果需进一步验证。可关注后续基准测试或社区反馈。
llama.cpp 作为重要的开源推理引擎，对 DeepSeek V4 的快速支持反映了开源社区对前沿模型的跟进速度。这可能加速 DeepSeek V4 的采用，并影响其他推理框架的路线图。
对于依赖 llama.cpp 进行本地推理的开发者或企业，该更新提供了对 DeepSeek V4 的支持，可能降低推理成本或提升性能。但需注意该版本为预发布，稳定性待验证。
预计其他推理框架（如 vLLM、TensorRT-LLM）将跟进支持 DeepSeek V4 的超连接，以保持竞争力。同时，DeepSeek V4 的完整模型发布和性能评测将成为下一关注点。