viable/strict/1790342912: [inductor] Codegen backed SymInt input runtime asserts (#185588)
PyTorch 发布 viable/strict/1790342912 变更（PR #185588）：当 prefer_deferred_runtime_asserts_over_guards=True 时，Dynamo 将 backed-SymInt 形状检查记录为延迟运行时断言而非 guard，FX 会把这类仅含 backed 符号的检查物化为输入图上的 aten._assert_scalar 节点，但常规 Inductor lowering 会丢弃这些节点；此前只有 AOTI full-runtime-assert 路径会把输入图 _assert_scalar 转成 wrapper AssertScalar 操作。该变更让 Inductor 在断言表达式含 backed 自由符号且不含 unbacked 符号时为其生成代码，含 unbacked 符号的断言仍走既有延迟路径。
Development
- First Reportviable/strict/1790342912: [inductor] Codegen backed SymInt input runtime asserts (#185588)PyTorch Core
- Current Assessment这类修复不改变模型能力或商业格局，但影响 torch.compile 在动态形状场景下的正确性保证：延迟运行时断言是减少 guard 重编译、提升动态形状可用性的关键机制，若断言被丢弃，用户可能在无报错情况下得到错误结果。对依赖 torch.compile 的推理与训练栈而言，正确性回归比性能数字更值得关注。可验证下一信号：后续 release note 或 issue 中是否出现同类断言丢失的回归报告。Agent Pulse · analysis
该 PR 修复了 torch.compile 常规路径下输入图 _assert_scalar 节点被 Inductor lowering 丢弃的问题：当断言表达式只含 backed 自由符号时，Inductor 现在会为其 codegen wrapper assert；含 unbacked 符号的断言继续沿用延迟路径，等 unbacked 输入绑定后再发出。作者称这保留了既有 AOTI full-runtime-assert 行为，同时覆盖 issue 中的常规 torch.compile 路径，并选择修复根因而非在 torch.compile 下拒绝 prefer_deferred_runtime_asserts_over_guards 配置。证据摘要末尾提到 CPU microbenchmark 命令，但未给出可引用的具体数值。
从描述看，这是编译栈中 guard 与运行时断言两条路径的语义对齐问题：延迟断言机制把形状检查从 guard 移到运行时，但 lowering 阶段缺少对 backed-only 表达式的绑定点，导致断言静默丢失。修复方式是按符号类型分流——backed-only 走 codegen，含 unbacked 的仍延迟——属于保守且可验证的边界划分。可验证下一信号：该 PR 是否附带测试用例覆盖 backed-only 与 unbacked 混合场景，以及 CPU microbenchmark 的具体数值是否公开。
这类修复不改变模型能力或商业格局，但影响 torch.compile 在动态形状场景下的正确性保证：延迟运行时断言是减少 guard 重编译、提升动态形状可用性的关键机制，若断言被丢弃，用户可能在无报错情况下得到错误结果。对依赖 torch.compile 的推理与训练栈而言，正确性回归比性能数字更值得关注。可验证下一信号：后续 release note 或 issue 中是否出现同类断言丢失的回归报告。
对使用 PyTorch 编译栈的团队，该变更降低动态形状下断言被静默丢弃的风险，减少因错误结果导致的调试与返工成本；对以 torch.compile 为卖点的推理服务，正确性修复有助于减少为规避编译问题而保留的 eager 回退路径。价值大小取决于该配置的实际采用率，证据未提供采用数据。
若该修复进入稳定版本，prefer_deferred_runtime_asserts_over_guards 在常规 torch.compile 路径下的可用性会提升，动态形状编译的 guard 数量与重编译开销可能下降。需观察该配置是否从实验性走向默认，以及 AOTI 与常规路径的行为是否进一步统一。