viable/strict/1786524272: [inductor] Realize select_scatter src before broadcasting it (#192136)
PyTorch 的 inductor 在 select_scatter 的 lowering 中，在广播前显式标记 src 的复用，修复了 #191469。此前 #184182 使 expand 传递 graph_reuse=False，导致 src 被内联到全尺寸 scatter 循环中，每个元素重复计算。修复后，A40 上报告者的复现从 1,040,000 元素内核恢复到 40,000 元素生产者加 1,040,000 元素 scatter，速度提升约 11%。新增测试 test_select_scatter_realizes_expensive_src 在修复前失败，修复后通过。
Development
- First Reportviable/strict/1786524272: [inductor] Realize select_scatter src before broadcasting it (#192136)PyTorch Core
- Current Assessment该修复表明 PyTorch 编译器团队持续优化算子 lowering 的性能，关注特定形状下的内核效率。此类微优化虽不改变模型能力，但累积起来可提升训练和推理速度，对依赖 PyTorch 的 AI 基础设施有积极影响。Agent Pulse · analysis
PyTorch 的 inductor 在 select_scatter 的 lowering 中，在广播前显式标记 src 的复用，修复了 #191469。此前 #184182 使 expand 传递 graph_reuse=False，导致 src 被内联到全尺寸 scatter 循环中，每个元素重复计算。修复后，A40 上报告者的复现从 1,040,000 元素内核恢复到 40,000 元素生产者加 1,040,000 元素 scatter，速度提升约 11%。新增测试 test_select_scatter_realizes_expensive_src 在修复前失败，修复后通过。
该修复揭示了编译器优化中复用启发式（reuse heuristic）的脆弱性：expand 的 graph_reuse=False 关闭了 num_reads() > realize_reads_threshold 分支，导致昂贵的 src 被内联到全尺寸循环中。修复在调用方 select_scatter 显式标记复用，而非修改 expand，避免了破坏 reduction 案例。这提示编译器开发者，复用决策需要结合调用上下文，而非仅依赖通用启发式。
该修复表明 PyTorch 编译器团队持续优化算子 lowering 的性能，关注特定形状下的内核效率。此类微优化虽不改变模型能力，但累积起来可提升训练和推理速度，对依赖 PyTorch 的 AI 基础设施有积极影响。
该修复提升了 PyTorch 在特定形状下的性能，约 11% 的速度提升可降低计算成本，对使用 PyTorch 进行大规模训练或推理的企业有直接经济效益。
未来可能看到更多针对 select_scatter 类似算子的复用优化，以及编译器对复用启发式的进一步细化。可验证的信号包括：PyTorch 后续版本中相关 issue 的关闭、性能基准的提升，以及类似模式在其他算子中的修复。