AGENT PULSESJCPal Special EditionAI 行业证据与趋势
2026年8月1日 · LMCache

Release v0.5.3rc1 · ROCm (gfx942, gfx950)

发生了什么

LMCache 发布 v0.5.3rc1 的 ROCm wheel,支持 AMD Instinct gfx942 (MI300X/MI325X) 和 gfx950 (MI350X/MI355X),与上游 vllm/vllm-openai-rocm 镜像 ABI 匹配(torch 2.11, cp312)。安装命令:VERSION=v0.5.3rc1 pip install lmcache==${VERSION#v} --no-deps --find-links https://github.com/LMCache/LMCache/releases/expanded_assets/${VERSION}-rocm。

EVENT STORY

发展脉络

  1. 首次出现Release v0.5.3rc1 · ROCm (gfx942, gfx950)LMCache
  2. 行业反馈Release v0.5.3rc2 · ROCm (gfx942, gfx950)LMCache
  3. 行业反馈v0.5.3.rc3-rocm: [CI] fix abi mismatch and smoke checks (#4423)LMCache
  4. 行业反馈Release v0.5.3rc3 · ROCm (gfx942, gfx950)LMCache
  5. 当前判断LMCache 发布 ROCm 版本表明开源生态对 AMD 加速器的支持正在增强,可能推动 AMD 在 AI 推理领域的采用。可关注其他 KV 缓存库是否跟进,以及 AMD 在软件生态上的投入。Agent Pulse · 分析
改变了什么

LMCache 发布了 v0.5.3rc1 的 ROCm 版本,为 AMD Instinct 加速器(gfx942 和 gfx950)提供预构建 wheel。该版本与上游 vLLM ROCm 镜像(torch 2.11, cp312)ABI 兼容,用户可直接在 vLLM ROCm 容器中安装。这标志着 LMCache 对 AMD 平台的支持,使 AMD 用户能够使用 KV 缓存管理功能。

能力边界怎么变了

该版本针对 AMD Instinct 系列(gfx942 和 gfx950)提供预编译 wheel,并确保与上游 vLLM ROCm 镜像的 ABI 兼容性,这降低了在 AMD 平台上集成 LMCache 的复杂度。未来可关注是否支持更多 AMD 架构或提供性能基准。

为什么重要

LMCache 发布 ROCm 版本表明开源生态对 AMD 加速器的支持正在增强,可能推动 AMD 在 AI 推理领域的采用。可关注其他 KV 缓存库是否跟进,以及 AMD 在软件生态上的投入。

对谁有影响

该版本为 AMD 用户提供了 KV 缓存能力,可能降低 AMD 平台的推理成本,提升竞争力。对使用 AMD 加速器的企业,可减少对 NVIDIA 的依赖。

接下来观察

后续可关注 LMCache 对 ROCm 的正式版本发布、性能优化以及是否支持更多 AMD GPU 型号。