OPLD: On-Policy Latent Distillation for Multimodal Reasoning

OPLD 提出了一种简单框架，通过在线策略潜在蒸馏，将多模态思维链（CoT）诱导的推理能力内化到潜在推理表示中。现有方法受限于外部定义的推理轨迹和视觉操作，而潜在推理方法仅将潜在状态与压缩的辅助视觉特征对齐，未能充分内化抽象推理过程。OPLD 在多个多模态基准上持续优于现有潜在推理方法，并达到最先进性能。

OPLD 的核心创新在于在线策略蒸馏，使潜在状态不仅作为视觉观察的代理，而是主动的推理状态。这暗示潜在推理可能超越显式思维链，实现更灵活的抽象视觉思考。下一步可验证信号：OPLD 是否在需要复杂空间推理或抽象视觉概念的任务上显著提升，以及其蒸馏策略对潜在表示可解释性的影响。