2026年8月13日 · OpenVINO
2026.3.1: [GPU] Increase position IDs precision for direct MatMul Sin/Cos (#37417)
OpenVINO 在 2026.3.1 版本中,将 #37291 的补丁反向移植到 releases/2026/3 分支,该补丁增加了 GPU 上直接 MatMul Sin/Cos 操作的位置 ID 精度。
EVENT STORY
发展脉络
- 首次出现2026.3.1: [GPU] Increase position IDs precision for direct MatMul Sin/Cos (#37417)OpenVINO
- 当前判断OpenVINO 作为开源推理框架,持续优化 GPU 性能,表明推理框架在数值精度和硬件适配方面的竞争加剧。此类补丁反映了对推理准确性和稳定性的重视。Agent Pulse · 分析
OpenVINO 2026.3.1 版本发布,包含对 GPU 上直接 MatMul Sin/Cos 操作的位置 ID 精度的提升。该改动是 #37291 的补丁反向移植到 releases/2026/3 分支。此更新可能影响使用 OpenVINO 进行 GPU 推理的开发者,尤其是涉及位置编码的模型。
该补丁针对 GPU 上的直接 MatMul Sin/Cos 操作,通过增加位置 ID 的精度,可能减少数值误差,提升模型推理的准确性。对于依赖精确位置编码的模型(如 Transformer 架构),此改动可能带来数值稳定性改进。
OpenVINO 作为开源推理框架,持续优化 GPU 性能,表明推理框架在数值精度和硬件适配方面的竞争加剧。此类补丁反映了对推理准确性和稳定性的重视。
对于使用 OpenVINO 部署模型的团队,此更新可能提升推理结果的准确性,减少因数值误差导致的错误,从而降低调试成本并提高模型可靠性。
未来,OpenVINO 可能继续优化 GPU 上的数值精度,并可能扩展到其他操作。开发者应关注后续版本中类似精度改进的发布。