viable/strict/1789939464: [Inductor] Allow custom-op autotuning without fallback (#197446)
PyTorch 发布 viable/strict/1789939464 版本变更（PR #197446）：为 Inductor 的 custom-op autotuning 增加 include_fallback 选项，并贯通标准与 range-based lowering 两条路径。该选项默认 True，保留将 custom op 本身作为外部 fallback 候选的既有行为；调用方可设为 False，使 custom op 仅作为 autotuning/rewriting 载体而不被作为候选发出。该能力被 facebookexperimental/triton#3631 用于 TLX GFX950 GEMM + LayerNorm/RMSNorm 融合，同时在 autotune_custom_op() 中加入 TLX 初始化。
Development
- First Reportviable/strict/1789939464: [Inductor] Allow custom-op autotuning without fallback (#197446)PyTorch Core
- Current Assessment这是编译器与内核生态协同的常规演进：上游框架为下游内核项目（此处为 facebookexperimental/triton 的 TLX 路径）开放更细粒度的 autotuning 控制。证据仅覆盖单个 PR，尚不足以推断更广泛的产业趋势，需观察同类下游项目是否提出类似接口需求。Agent Pulse · analysis
PyTorch 核心仓库发布 PR #197446，为 Inductor 的 custom-op autotuning 引入 include_fallback 开关，并同时接入标准与 range-based lowering。默认值 True 保持原有语义：custom op 自身仍作为外部 fallback 候选参与选择；设为 False 时，custom op 只承担 autotuning/rewriting 载体角色，不再作为候选被发出。证据显示该改动服务于 facebookexperimental/triton#3631 的 TLX GFX950 GEMM 与 LayerNorm/RMSNorm 融合场景，使 Inductor 能在分解方案之间自动调优而不保留语义 custom op 作为回退。变更还包含在 autotune_custom_op() 内加入 TLX 初始化，并已通过 CI 与审核。
从证据看，这一改动的技术含义是解耦「autotuning 载体」与「可发射候选」两种角色：此前 custom op 默认同时充当二者，导致融合场景下回退路径可能保留语义 custom op。include_fallback=False 让编译器只在分解候选中搜索。可验证的下一信号是 facebookexperimental/triton#3631 是否合入，以及 Inductor 侧是否出现针对该路径的基准或回归测试。
这是编译器与内核生态协同的常规演进：上游框架为下游内核项目（此处为 facebookexperimental/triton 的 TLX 路径）开放更细粒度的 autotuning 控制。证据仅覆盖单个 PR，尚不足以推断更广泛的产业趋势，需观察同类下游项目是否提出类似接口需求。
对使用 Inductor 编译自定义算子的团队，该开关减少了融合场景下回退到语义 custom op 的可能，有助于让自动调优结果更贴近分解实现。价值大小取决于 TLX GFX950 路径的实际落地情况，证据未提供性能数字，暂无法量化。
若该选项被下游项目稳定采用，Inductor 的 custom-op autotuning 可能逐步区分「仅用于搜索」与「可回退」两类用法。可验证信号：后续 PyTorch release notes 是否提及 include_fallback，以及是否有其他后端复用该参数。