Round-Trip Consistency: Bidirectional Diffusion Models Can Predict Their Own Rollout Errors
论文提出双向条件潜扩散模型，通过方向标志让单一模型既能前向也能后向步进动力学系统，利用往返一致性（前向i步再后向i步回到起点）作为无需测量的测试时误差信号。在可压缩磁流体动力学（MHD）、天体物理湍流辐射混合层和自然人脸视频（CelebV-HQ）上验证。在MHD轨迹上，往返差异C_i对滚动误差的排序Spearman相关系数为0.91-0.98（固定深度）和0.69±0.16（轨迹内）；简单校准器预测误差幅度在1.14倍（68%）和1.29倍（95%）内，比仅深度预测器多一个nat，并迁移到所有六个解码物理场。
发展脉络
- 首次出现Round-Trip Consistency: Bidirectional Diffusion Models Can Predict Their Own Rollout ErrorsHugging Face Daily Papers
- 行业反馈Round-Trip Consistency: Bidirectional Diffusion Models Can Predict Their Own Rollout ErrorsarXiv cs.LG
- 当前判断该方法可能影响需要长序列预测的领域，如天气预报、流体模拟或视频生成，提供一种无需真值的误差监测手段。但当前验证集中在物理模拟和视频，未涉及语言模型或通用时序数据，实际应用范围待定。Agent Pulse · 分析
该研究提出一种无需真值即可在部署时估计自回归模型滚动误差的方法。作者训练一个单一的条件潜扩散模型，通过方向标志控制时间前向或后向步进，利用往返一致性作为自监督代理：前向i步再后向i步应回到起点，往返差异C_i即反映未观测的滚动误差。该方法无需集成、无需保留数据、无需控制方程，仅需一次额外滚动。在可压缩磁流体动力学（MHD）、天体物理湍流辐射混合层和自然人脸视频（CelebV-HQ）上验证。在MHD轨迹上，C_i对滚动误差的排序Spearman相关系数为0.91-0.98（固定深度）和0.69±0.16（轨迹内）；简单校准器预测误差幅度在1.14倍（68%）和1.29倍（95%）内，比仅深度预测器多一个nat，并迁移到所有六个解码物理场。该信号还能标记分布外数据。
双向扩散模型通过方向标志实现时间对称，利用往返一致性提供无需真值的误差信号，这为自回归模型的长滚动误差监测提供了新思路。其校准器在训练数据上拟合，预测误差幅度接近名义覆盖，表明该方法在分布内有效。但轨迹内相关性较低（0.69±0.16），且未提及在更复杂或高维数据上的表现，需进一步验证。
该方法可能影响需要长序列预测的领域，如天气预报、流体模拟或视频生成，提供一种无需真值的误差监测手段。但当前验证集中在物理模拟和视频，未涉及语言模型或通用时序数据，实际应用范围待定。
对于依赖长序列预测的行业（如气候模拟、金融预测），该方法可能降低对真值数据的依赖，减少标注成本。但当前证据未提供具体商业案例或成本数据，价值评估需谨慎。
未来可探索该方法在语言模型长文本生成或通用时序预测中的适用性，以及如何将往返一致性集成到训练目标中以提高模型自身的一致性。