2026年9月6日 · OpenBMB
Update SGLang installation instructions and add DSpark model support
SGLang 安装说明更新至 0.5.16 版本，以支持 CUDA 13.x 驱动，并新增对 MiniCPM5-2B-DSpark 模型的投机解码支持，文档中提供了启动服务器的示例。
EVENT STORY
发展脉络
- 首次出现Update SGLang installation instructions and add DSpark model supportOpenBMB MiniCPM Repository Updates
- 当前判断开源推理框架与模型厂商的紧密协作正在加速，模型发布后迅速获得框架支持成为常态。这降低了部署门槛，可能推动小模型在边缘场景的应用。Agent Pulse · 分析
2026年9月6日，OpenBMB 的 MiniCPM 仓库提交更新了 SGLang 的安装说明，将版本提升至 0.5.16，以兼容 CUDA 13.x 驱动。同时，文档新增了 MiniCPM5-2B-DSpark 模型的投机解码支持，并提供了启动服务器的示例。这表明 SGLang 正在扩展对新型模型和硬件环境的支持，可能提升推理效率。
投机解码支持通常需要模型具备草稿模型或特殊架构，MiniCPM5-2B-DSpark 可能集成了草稿模型或自推测机制。SGLang 0.5.16 的更新可能优化了 CUDA 13.x 下的内核性能。建议关注该模型的推理吞吐量对比数据。
开源推理框架与模型厂商的紧密协作正在加速，模型发布后迅速获得框架支持成为常态。这降低了部署门槛，可能推动小模型在边缘场景的应用。
对于使用 SGLang 部署模型的团队，此更新可能降低推理延迟和成本，尤其是对延迟敏感的应用。但需验证实际收益。
后续可关注 SGLang 官方发布说明中关于投机解码的性能基准，以及 MiniCPM5-2B-DSpark 模型在标准评测中的表现。