b10256
llama.cpp 发布 b10256 版本，将非连续 concat 内核的 launch geometry 从单 lane work-group (1,1,1) 改为 (1,1,SYCL_CONCAT_BLOCK_SIZE)，SYCL_CONCAT_BLOCK_SIZE 定义于 ggml/src/ggml-sycl/presets.hpp。在 Arc Pro B70 上，Qwen3.6-27B-UD-Q4_K_XL 模型，-fa on，q8_0 KV，pp2048 性能从 920 t/s 提升至 1006 t/s（+9.4%）。后续提交将 block 宽度设为环境变量可调，但随后 revert 了该改动。
发展脉络
- 首次出现b10256llama.cpp
- 当前判断llama.cpp 持续优化 SYCL 后端，表明 Intel GPU 在 AI 推理中的重要性提升。性能提升 9.4% 虽小，但反映了开源社区对多后端支持的投入。这可能导致更多用户选择 Intel GPU 进行本地推理，影响硬件市场份额。Agent Pulse · 分析
llama.cpp 在 b10256 版本中针对 SYCL 后端优化了非连续 concat 内核的 launch geometry，将 work-group 从单 lane 改为 (1,1,SYCL_CONCAT_BLOCK_SIZE)，显著提升了推理性能。在 Arc Pro B70 上，Qwen3.6-27B-UD-Q4_K_XL 模型在 pp2048 下性能提升 9.4%。该优化通过调整内核并行度，更好地利用了 GPU 资源。后续尝试将 block 宽度设为环境变量可调，但最终 revert，表明团队在灵活性与稳定性之间权衡。
该优化通过调整 SYCL 内核的 work-group 尺寸，从单 lane 改为多 lane，增加了并行度，从而提升性能。SYCL_CONCAT_BLOCK_SIZE 作为编译期常量，可能针对特定硬件进行了调优。性能提升 9.4% 表明 concat 操作在推理中占一定比重，优化其并行度能带来可观收益。未来可关注该常量在不同硬件上的默认值及是否会有更细粒度的调优。
llama.cpp 持续优化 SYCL 后端，表明 Intel GPU 在 AI 推理中的重要性提升。性能提升 9.4% 虽小，但反映了开源社区对多后端支持的投入。这可能导致更多用户选择 Intel GPU 进行本地推理，影响硬件市场份额。
该优化降低了 Intel GPU 上运行 llama.cpp 的推理成本，提升了用户体验，可能吸引更多 Intel 用户使用本地 AI 推理，对 Intel 生态和 llama.cpp 社区均有正面价值。
未来可能看到 SYCL 后端更多内核的并行化优化，以及针对不同 Intel GPU 架构的自动调优。环境变量可调被 revert，但可能以其他形式回归，如编译时配置或运行时检测。