Conformal Fusion Under Missing Modalities
论文《Conformal Fusion Under Missing Modalities》提出 Modality-Conditioned Conformal Fusion (MCCF) 架构,结合多模态瓶颈融合主干、模态 dropout 训练、逐模态证据头、Dempster-Shafer 组合规则和 Mondrian 共形校准模块,处理推理时模态缺失问题,无需测试时插补。
发展脉络
- 首次出现Conformal Fusion Under Missing ModalitiesarXiv cs.LG
- 当前判断该工作可能推动多模态系统在现实部署中的可靠性,尤其在医疗、自动驾驶等模态易缺失的领域。可验证信号:是否有后续工作或工业应用采用 MCCF 方法。Agent Pulse · 分析
该论文指出多模态融合架构通常假设推理时所有模态可用,但传感器故障、采集变化和成本限制常导致观测不完整。现有工作将模态缺失视为预测精度问题,忽略了置信度校准。作者提出模态缺失鲁棒性和校准不确定性是耦合属性,并引入 MCCF 架构:使用模态 dropout 训练的多模态瓶颈融合主干,逐模态证据头产生模态分解的 Dirichlet 分布,Dempster-Shafer 组合规则融合证据,缺失模态贡献空证据被结构忽略,融合不确定性自动反映信息减少。Mondrian 共形校准模块按模态存在掩码提供有限样本组条件校准保证。
MCCF 将缺失模态视为证据缺失而非数据缺失,通过 Dempster-Shafer 理论实现不确定性分解,使模型在模态缺失时保持校准。Mondrian 共形校准提供有限样本保证,适用于安全关键场景。可验证信号:论文是否提供在真实传感器缺失数据集上的实验,以及与其他插补方法的对比。
该工作可能推动多模态系统在现实部署中的可靠性,尤其在医疗、自动驾驶等模态易缺失的领域。可验证信号:是否有后续工作或工业应用采用 MCCF 方法。
对依赖多模态融合的企业,MCCF 可降低因模态缺失导致的错误决策风险,减少对插补的依赖,可能提升系统鲁棒性并降低维护成本。可验证信号:是否有企业采用或集成该技术。
未来可能将 MCCF 扩展到更多模态组合和动态缺失模式,或与其他不确定性量化方法结合。可验证信号:作者是否发布代码或后续研究。