DecoupleMix: Decoupled Ratio Search and Convex Allocation for Scalable VLM Data Recipes
DecoupleMix 论文提出将 VLM 预训练数据混合构建形式化为系统化的混合优化问题，通过解耦类间比例和类内比例，使用单变量迭代搜索和带多样性目标的约束凸优化，实验显示优于启发式基线。
发展脉络
- 首次出现DecoupleMix: Decoupled Ratio Search and Convex Allocation for Scalable VLM Data RecipesarXiv cs.AI
- 当前判断VLM 预训练数据配比长期依赖启发式方法，前沿配方不公开。DecoupleMix 提出可复现的优化框架，可能推动数据工程从经验驱动转向系统化优化，影响数据收集和验证流程。可验证的下一信号：是否有后续工作或工业界采用该方法，以及是否出现基于该框架的工具。Agent Pulse · 分析
DecoupleMix 论文针对 VLM 预训练数据构建缺乏原则性方法的问题，提出将数据构建形式化为系统化的混合优化问题。该方法将混合比例解耦为两个正交子问题：类间比例（跨能力）和类内比例（类别内）。类间分配使用单变量迭代搜索，类内组合使用多维数据集级评估（质量和难度），并形式化为带多样性目标的约束凸优化。框架提供两个关键能力：指导下一步数据收集，以及使数据集验证成为可控、可归因的实验。实验表明该方法持续优于启发式基线，且在小规模上发现的最优比例具有可扩展性。
DecoupleMix 的核心技术贡献在于将数据混合比例搜索解耦为两个可独立优化的子问题，降低了搜索复杂度。类间比例使用单变量迭代搜索，类内组合使用凸优化，使得数据配比可复现、可归因。这为 VLM 预训练数据工程提供了系统化方法论，替代了启发式堆叠。可验证的下一信号：该方法在更大规模 VLM 预训练中的效果，以及是否被其他团队采用。
VLM 预训练数据配比长期依赖启发式方法，前沿配方不公开。DecoupleMix 提出可复现的优化框架，可能推动数据工程从经验驱动转向系统化优化，影响数据收集和验证流程。可验证的下一信号：是否有后续工作或工业界采用该方法，以及是否出现基于该框架的工具。
对于构建 VLM 的公司，该方法可降低数据配比试错成本，提高数据利用效率，从而提升模型性能并降低训练成本。可验证的下一信号：是否有公司采用该方法并报告收益。
该方法可能成为 VLM 数据配比的标准实践，并扩展到其他模态。未来可能看到更多基于优化方法的数据配方研究，以及开源工具的出现。可验证的下一信号：论文被引用情况，以及是否有后续工作扩展该方法。