b10293
llama.cpp 发布 b10293 版本，为 AMD ROCm CI 添加 gfx1151 修复，包括设备识别、重命名 gpu-amd 为 gpu-hip 再为 gpu-rocm，并启用统一内存以解决集成 GPU 的缓存一致性问题。同时修复了调试断言，允许集成 GPU 的主机可见输出缓冲区，修复了 gfx1151 上的 test-recurrent-state-rollback。
发展脉络
- 首次出现b10293llama.cpp
- 当前判断llama.cpp 对 AMD ROCm 的持续支持表明开源社区正在扩大对非 NVIDIA 硬件的适配，这可能降低对 CUDA 的依赖，促进硬件多样性。集成 GPU 的支持可能使低功耗设备运行 LLM 成为可能，但性能仍待验证。Agent Pulse · 分析
llama.cpp 在 b10293 版本中为 AMD ROCm CI 添加了 gfx1151 支持，包含多项修复：修复设备未识别问题，将 CI 作业从 gpu-amd 重命名为 gpu-hip 再改为 gpu-rocm，并为 gfx1151 作业启用统一内存以解决集成 GPU 的缓存一致性问题。此外，修复了调试断言，允许集成 GPU 的主机可见输出缓冲区，从而修复了 gfx1151 上的 test-recurrent-state-rollback 测试。这些改动表明 llama.cpp 正在扩展对 AMD 集成 GPU（如 Strix Halo）的支持，并改进 CI 基础设施。
该提交修复了集成 GPU 上调试断言的问题，允许节点输出位于主机可见缓冲区，这与源张量的异常处理一致。这反映了在 APU 上调度图节点时，输出可能合法地放在主机内存中，而调试断言未考虑此情况。启用统一内存可能解决集成 GPU 的缓存一致性问题，但具体机制未详述。
llama.cpp 对 AMD ROCm 的持续支持表明开源社区正在扩大对非 NVIDIA 硬件的适配，这可能降低对 CUDA 的依赖，促进硬件多样性。集成 GPU 的支持可能使低功耗设备运行 LLM 成为可能，但性能仍待验证。
对 AMD 硬件用户而言，llama.cpp 的改进可能提升在 ROCm 平台上的可用性和稳定性，降低使用成本。对云服务商，支持更多硬件可提供更灵活的推理选项。
后续可关注 llama.cpp 对 gfx1151 的持续优化，以及是否会有更多 AMD 集成 GPU 的基准测试和性能报告。