viable/strict/1787086487: Add missing XPU: _safe_softmax_xpu dispatch for _safe_softmax (#193786)
PyTorch 2.14 中 aten::_safe_softmax 丢失了 XPU 调度，回退到 CompositeExplicitAutograd 分解，导致每次调用产生 5 个独立的 XPU kernel 而非 1 个融合 kernel，在 11 个模型配置上造成 10-27% 的 eager 路径性能回退。根因是提交 08c29108 在迁移 XPU 调度注册时遗漏了 _safe_softmax_xpu 行。torch-xpu-ops 已有优化的 XPU 实现，但未注册。
发展脉络
- 首次出现viable/strict/1787086487: Add missing XPU: _safe_softmax_xpu dispatch for _safe_softmax (#193786)PyTorch Core
- 当前判断该事件表明，在 PyTorch 生态中，XPU 等非 CUDA 后端的支持依赖于调度注册的完整性。随着 torch-xpu-ops 与 PyTorch 主仓库的合并，任何遗漏都可能导致性能回退。这反映了开源框架在扩展硬件支持时面临的集成挑战，也凸显了自动化验证和回归测试的重要性。Agent Pulse · 分析
PyTorch 2.14 中 aten::_safe_softmax 丢失了 XPU 调度，回退到 CompositeExplicitAutograd 分解，导致每次调用产生 5 个独立的 XPU kernel 而非 1 个融合 kernel，在 11 个模型配置上造成 10-27% 的 eager 路径性能回退。根因是提交 08c29108 在迁移 XPU 调度注册时遗漏了 _safe_softmax_xpu 行。torch-xpu-ops 已有优化的 XPU 实现，但未注册。
该事件暴露了 PyTorch 调度注册迁移过程中的一个具体遗漏：当 torch-xpu-ops 的 YAML 文件被移除并合并到 PyTorch 主仓库时，XPU 的 _safe_softmax 调度行未被正确添加，导致 aten::_safe_softmax 在 XPU 上回退到 CompositeExplicitAutograd 分解。这产生了 5 个独立的 kernel（isneginf、all、where、fill、softmax）而非 1 个融合 kernel，造成 10-27% 的 eager 路径性能回退。这提醒我们，在跨仓库迁移调度注册时，需要系统性地检查所有算子的调度覆盖，避免遗漏。
该事件表明，在 PyTorch 生态中，XPU 等非 CUDA 后端的支持依赖于调度注册的完整性。随着 torch-xpu-ops 与 PyTorch 主仓库的合并，任何遗漏都可能导致性能回退。这反映了开源框架在扩展硬件支持时面临的集成挑战，也凸显了自动化验证和回归测试的重要性。
对于使用 PyTorch 在 Intel XPU 上进行推理的团队，该性能回退可能导致推理成本增加。修复后，推理性能将恢复，降低单位任务成本。
预计 PyTorch 团队将修复该调度遗漏，恢复 _safe_softmax 的 XPU 融合 kernel，从而消除性能回退。未来，类似的调度迁移应通过更严格的测试和 CI 检查来避免。