KnowHal: A Knowledge-Driven Benchmark for Comprehensive Multimodal Hallucination Evaluation
KnowHal 是一个多模态幻觉评测基准，将知识幻觉纳入实体、属性、关系和知识四个维度的统一评估。它包含 1,800 个样本，覆盖 10 个领域和 50 个类别，通过半自动流程构建。在 14 个代表性 MLLM 上的评估显示，知识维度对几乎所有模型都是最大挑战。
发展脉络
- 首次出现KnowHal: A Knowledge-Driven Benchmark for Comprehensive Multimodal Hallucination EvaluationarXiv cs.AI
- 当前判断该基准的发布表明多模态幻觉评测正从单一维度向综合维度演进，知识维度成为新的关注点。这可能推动模型在知识整合和事实性方面的改进，对依赖多模态理解的行业应用（如自动图像描述、视觉问答）有潜在影响。Agent Pulse · 分析
KnowHal 是一个知识驱动的多模态幻觉评测基准，旨在统一评估多模态大语言模型（MLLM）在不同幻觉维度上的表现。现有基准主要关注实体、属性和关系幻觉，而知识相关的失败通常被单独研究，缺乏统一的评估框架。KnowHal 将知识幻觉显式纳入评估，涵盖实体、属性、关系和知识四个维度。它通过共享图像和实体构建配对的正负问题，实现感知错误、知识相关错误和错误前提接受的可控比较。基准包含 1,800 个样本，覆盖 10 个领域和 50 个类别，通过结合 LLM 辅助、CLIP 过滤和人工验证的半自动流程构建。研究团队在 KnowHal 上评估了 14 个代表性 MLLM，并进行了广泛分析。结果显示，知识维度对几乎所有评估模型都是最大挑战，而大多数模型在感知错误方面表现出显著……
KnowHal 的贡献在于将知识幻觉纳入统一的评测框架，通过配对正负问题设计，能够区分感知错误和知识错误。这种设计可能揭示模型在知识检索与视觉感知之间的交互机制。未来可关注该基准在模型训练中的应用，例如通过知识增强的微调来减少知识幻觉。
该基准的发布表明多模态幻觉评测正从单一维度向综合维度演进，知识维度成为新的关注点。这可能推动模型在知识整合和事实性方面的改进，对依赖多模态理解的行业应用（如自动图像描述、视觉问答）有潜在影响。
对于开发多模态产品的公司，该基准提供了一种评估模型可靠性的方法，有助于识别知识幻觉风险，从而改进产品。
后续可观察 KnowHal 是否被广泛采用，以及模型在知识维度上的表现是否随训练方法改进而提升。