Can Large Language Models Recover Semantic Optimization Opportunities That Compilers Miss?
SeGaBench 是一个可执行基准，包含 100 个合成案例和 20 个基于源代码的案例，涵盖低级假设、数据结构不变量和高层语义提升。每个案例包含隐藏的使能语义、oracle 工件、正确性和语义验证器，以及可复现的性能协议。评估了五个 LLM，每个案例使用五个独立响应。最强的模型在 94.8% 的响应中产生正确工件，在 83.3% 中实现至少 1.05 倍加速，在 93.3% 的案例中获得性能成功。然而，正确的工件通常只关闭了 oracle 差距的一部分。
发展脉络
- 首次出现Can Large Language Models Recover Semantic Optimization Opportunities That Compilers Miss?arXiv cs.AI
- 当前判断该研究展示了 LLM 在编译器优化领域的应用潜力，可能推动开发工具链的智能化。但当前结果仍有限，需要更多研究才能实现实际部署。Agent Pulse · 分析
编译器优化通常受限于程序表示中缺失的语义，导致无法进行有利的转换。该研究提出使用大型语言模型（LLM）从异构 C/C++ 上下文中恢复这些语义，并将其实现为经过验证的、保持契约的工件。为此，他们引入了 SeGaBench，一个包含 120 个案例的可执行基准，每个案例都包含隐藏的使能语义、oracle 工件、验证器和性能协议。评估了五个 LLM，最强的模型在正确性、加速和性能成功率上表现良好，但正确工件往往只部分缩小了与 oracle 的差距。结果表明，LLM 可以作为推测性语义提议者，补充编译器分析，但需要验证和评估。
LLM 能够从代码上下文中恢复编译器无法从程序表示中提取的语义，从而提出优化机会。然而，生成的工件需要验证，且正确性并不保证完全的性能提升。这提示我们，LLM 在编译器优化中的角色是提议者，而非最终决策者。
该研究展示了 LLM 在编译器优化领域的应用潜力，可能推动开发工具链的智能化。但当前结果仍有限，需要更多研究才能实现实际部署。
对于编译器开发者和工具链供应商，LLM 辅助优化可能提高性能，但需要投资于验证基础设施。对于使用编译器的企业，可能获得更好的性能，但需评估成本。
未来可能看到 LLM 辅助的编译器优化工具出现，但需要解决验证和性能差距问题。可验证的信号是：是否有编译器项目集成 LLM 提议的优化。