MindForge: Teaching Small Language Models Whole-Life-Cycle Software Engineering via Source-Free Program Synthesis
MindForge 是一个自动化流水线，将开源命令行程序转换为仅暴露编译后参考可执行文件及其文档的无源码环境。研究者用 GLM-5.2 作为教师代理生成程序合成轨迹，微调 Qwen3.6-27B 后，其在 ProgramBench 上的平均测试通过率从 37.98% 提升至 49.51%。
发展脉络
- 首次出现MindForge: Teaching Small Language Models Whole-Life-Cycle Software Engineering via Source-Free Program SynthesisarXiv cs.CL
- 当前判断该研究显示，通过合成数据蒸馏，小模型可以在特定编程任务上接近前沿模型，可能降低对超大模型的依赖。无源码环境构建方法可能推动更多开源项目用于训练，同时避免许可证问题。这或促使更多团队采用类似方法构建训练数据，加速小模型在软件工程领域的应用。Agent Pulse · 分析
MindForge 论文提出一种自动化流水线，将开源命令行程序转换为无源码环境，仅暴露编译后的参考可执行文件及其文档，用于训练小语言模型完成全生命周期软件工程任务。研究者从与 ProgramBench 不重叠的仓库构建训练环境，并使用 GLM-5.2 作为教师代理生成高质量程序合成轨迹。微调 Qwen3.6-27B 后，其在 ProgramBench 上的平均测试通过率从 37.98% 提升至 49.51%，达到与更大规模前沿模型相当的性能。论文指出，即使前沿模型在 ProgramBench 上完全解决的任务不足 1%，而现有环境构建框架仅关注软件开发单一阶段，MindForge 填补了从零构建程序的训练环境空白。
MindForge 的核心创新在于无源码环境构建，仅依赖编译后的可执行文件和文档，避免了源码泄露和版权问题，同时支持全生命周期任务。这种环境可能使模型学习从需求到实现的完整流程，而非仅修改现有代码。微调后的 Qwen3.6-27B 性能提升显著，表明小模型可通过高质量轨迹蒸馏获得竞争力。下一步可验证信号：MindForge 环境是否支持更多编程语言和任务类型，以及教师代理的规模对蒸馏效果的影响。
该研究显示，通过合成数据蒸馏，小模型可以在特定编程任务上接近前沿模型，可能降低对超大模型的依赖。无源码环境构建方法可能推动更多开源项目用于训练，同时避免许可证问题。这或促使更多团队采用类似方法构建训练数据，加速小模型在软件工程领域的应用。
对于 AI 编程工具公司，该方法可降低训练成本，利用小模型提供高性价比的编程辅助。对于企业，小模型部署成本低，可在本地运行，提升代码生成效率。该技术可能推动编程助手从云端大模型向边缘小模型迁移，降低延迟和隐私风险。
未来，MindForge 可能扩展至更复杂的软件工程任务，如大型项目重构或跨模块协作。随着环境构建自动化程度提高，训练数据的规模和多样性将增加，小模型在编程任务上的能力可能持续提升。可关注其是否开源环境构建工具，以及是否被其他研究团队采用。