Aug 13, 2026 · bitsandbytes
0.50.1: RTX Spark Support
bitsandbytes 0.50.1 版本发布，新增对 NVIDIA RTX Spark 产品在 Windows on ARM64 上的支持，改进 NVIDIA GB10 的 4bit GEMM 调度启发式，并支持 AMD CDNA5 硬件（如 MI455X）。
EVENT STORY
Development
- First Report0.50.1: RTX Spark Supportbitsandbytes
- Current Assessmentbitsandbytes 作为常用的量化库，其对新硬件的支持反映了 AI 推理硬件生态的多样化，尤其是 ARM64 和 AMD 的加入，可能推动更广泛的硬件采用。Agent Pulse · analysis
bitsandbytes 0.50.1 版本发布，主要新增对 NVIDIA RTX Spark 产品在 Windows on ARM64 上的支持，改进 NVIDIA GB10 的 4bit GEMM 调度启发式，并支持 AMD CDNA5 硬件（如 MI455X）。该版本包含多个 PR，如 #2038 添加 Windows ARM64 构建， #2037 添加安装文档， #2030 添加 sm121 调度层级。
该版本针对 RTX Spark 和 DGX Spark 优化了 4bit GEMM 调度，表明 bitsandbytes 正在适配新的硬件平台，特别是 ARM64 架构。这暗示未来低精度推理在边缘设备上的性能将得到提升。
bitsandbytes 作为常用的量化库，其对新硬件的支持反映了 AI 推理硬件生态的多样化，尤其是 ARM64 和 AMD 的加入，可能推动更广泛的硬件采用。
对于使用 bitsandbytes 的开发者，该版本提供了对新硬件的支持，可能降低推理成本或提升性能，但具体影响需进一步验证。
后续可关注 bitsandbytes 对更多硬件平台的支持，以及量化推理在边缘设备上的性能表现。