Aug 11, 2026 · llama.cpp
b10362: tests : disable backend sampler hip multi output (#26878)
llama.cpp 发布 b10362 版本，将 multi_output_sampling_chain 和 multi_output_cpu 测试加入 HIP 跳过列表，原因是这些测试依赖 top_k，其 backend probs 路径需要 CUB，而 HIP 上不可用。同时，ci 将 gpu-rocm 日志写入按 GitHub run id 键控的目录，以解决日志被覆盖的问题。
EVENT STORY
Development
- First Reportb10362: tests : disable backend sampler hip multi output (#26878)llama.cpp
- Current Assessmentllama.cpp 作为广泛使用的推理引擎，其对 HIP 的支持影响 AMD GPU 用户。此变更表明 HIP 后端在功能完整性上仍落后于 CUDA，可能影响 AMD 在 AI 推理市场的竞争力。Agent Pulse · analysis
llama.cpp 在 b10362 版本中，针对 HIP 平台禁用了两个基于 top_k 的测试（multi_output_sampling_chain 和 multi_output_cpu），因为 HIP 上缺少 CUB 库，导致 sampled_probs 为 null 并中止测试。此外，CI 调整了 gpu-rocm 日志存储方式，按 GitHub run id 分目录保存，避免日志被后续运行覆盖。
该变更揭示了 llama.cpp 在 HIP 后端对 top_k 采样的支持不完整，依赖 CUB 库。测试跳过是临时措施，未来可能通过实现 HIP 上的 top_k 路径或使用替代算法来恢复测试。
llama.cpp 作为广泛使用的推理引擎，其对 HIP 的支持影响 AMD GPU 用户。此变更表明 HIP 后端在功能完整性上仍落后于 CUDA，可能影响 AMD 在 AI 推理市场的竞争力。
对于依赖 AMD GPU 进行推理的团队，此变更意味着在 HIP 上使用 top_k 采样可能不可用，需评估替代方案或等待修复，可能影响部署决策。
后续可关注 llama.cpp 是否在 HIP 上实现 top_k 的 CUB 替代方案，或引入其他采样方法，以恢复相关测试并提升 HIP 后端的功能完整性。