AGENT PULSESJCPal Special EditionAI Industry Evidence & Trends
Aug 1, 2026 · LMCache

Release v0.5.3rc1 · ROCm (gfx942, gfx950)

What Happened

LMCache 发布 v0.5.3rc1 的 ROCm wheel,支持 AMD Instinct gfx942 (MI300X/MI325X) 和 gfx950 (MI350X/MI355X),与上游 vllm/vllm-openai-rocm 镜像 ABI 匹配(torch 2.11, cp312)。安装命令:VERSION=v0.5.3rc1 pip install lmcache==${VERSION#v} --no-deps --find-links https://github.com/LMCache/LMCache/releases/expanded_assets/${VERSION}-rocm。

EVENT STORY

Development

  1. First ReportRelease v0.5.3rc1 · ROCm (gfx942, gfx950)LMCache
  2. Industry ResponseRelease v0.5.3rc2 · ROCm (gfx942, gfx950)LMCache
  3. Industry Responsev0.5.3.rc3-rocm: [CI] fix abi mismatch and smoke checks (#4423)LMCache
  4. Industry ResponseRelease v0.5.3rc3 · ROCm (gfx942, gfx950)LMCache
  5. Current AssessmentLMCache 发布 ROCm 版本表明开源生态对 AMD 加速器的支持正在增强,可能推动 AMD 在 AI 推理领域的采用。可关注其他 KV 缓存库是否跟进,以及 AMD 在软件生态上的投入。Agent Pulse · analysis
What Changed

LMCache 发布了 v0.5.3rc1 的 ROCm 版本,为 AMD Instinct 加速器(gfx942 和 gfx950)提供预构建 wheel。该版本与上游 vLLM ROCm 镜像(torch 2.11, cp312)ABI 兼容,用户可直接在 vLLM ROCm 容器中安装。这标志着 LMCache 对 AMD 平台的支持,使 AMD 用户能够使用 KV 缓存管理功能。

How the Capability Boundary Shifted

该版本针对 AMD Instinct 系列(gfx942 和 gfx950)提供预编译 wheel,并确保与上游 vLLM ROCm 镜像的 ABI 兼容性,这降低了在 AMD 平台上集成 LMCache 的复杂度。未来可关注是否支持更多 AMD 架构或提供性能基准。

Why It Matters

LMCache 发布 ROCm 版本表明开源生态对 AMD 加速器的支持正在增强,可能推动 AMD 在 AI 推理领域的采用。可关注其他 KV 缓存库是否跟进,以及 AMD 在软件生态上的投入。

Who It Affects

该版本为 AMD 用户提供了 KV 缓存能力,可能降低 AMD 平台的推理成本,提升竞争力。对使用 AMD 加速器的企业,可减少对 NVIDIA 的依赖。

What to Watch Next

后续可关注 LMCache 对 ROCm 的正式版本发布、性能优化以及是否支持更多 AMD GPU 型号。