Relevant but Incomplete: Referential Dangling as a Paradigm-Level Failure Mode in Hard Prompt Compression
arXiv 论文（2608.04569v1）指出硬提示压缩存在结构性失败模式：独立评分与选择会拆散相互依赖的证据对，保留含答案的文本却删除解释该答案所需实体的文本，称为 referential dangling。压缩比 0.30 时，Beaver（用 Qwen3-0.6B 嵌入对连贯块排序）在三个多跳问答数据集的 bridge 示例中 34-54% 的答案路径不完整。在共享 HotpotQA bridge 集上，六个硬压缩器均出现 dangling，最高达 60%；LongBench-v2 单文档 QA 的每个文档至少含一个 dangling 引用。用 Qwen3-8B 评估 dangling 示例时，在保持 token 预算下重插缺失支持段落并移除无关段落，准确率提升 29-34 个百分点（p<0.0001），恢复至保留两个支持段落时差距的至少 88%。
发展脉络
- 首次出现Relevant but Incomplete: Referential Dangling as a Paradigm-Level Failure Mode in Hard Prompt CompressionHugging Face Daily Papers
- 行业反馈Relevant but Incomplete: Referential Dangling as a Paradigm-Level Failure Mode in Hard Prompt CompressionarXiv cs.CL
- 当前判断硬提示压缩被用于降低长上下文推理成本，但该研究揭示其可能系统性损害多跳问答准确性。压缩器在基准上的表现可能高估实际能力，因为 dangling 问题在真实文档中普遍存在。这提示压缩方案需重新设计，兼顾成本与推理完整性。Agent Pulse · 分析
硬提示压缩通过独立评分 token、句子或块并在预算下保留高分单元来降低长上下文推理成本。论文识别出该流程的结构性失败：独立选择会拆散相互依赖的证据对，保留答案却删除定义实体所需的文本，即 referential dangling。压缩比 0.30 时，Beaver 在三个多跳 QA 数据集的 bridge 示例中 34-54% 答案路径不完整；六个硬压缩器在 HotpotQA bridge 集上 dangling 率最高 60%，LongBench-v2 单文档 QA 每个文档至少一个 dangling。用 Qwen3-8B 评估时，重插缺失支持段落并移除无关段落以维持预算，准确率提升 29-34 个百分点，恢复至少 88% 的差距。
硬提示压缩的独立评分假设 token/句/块可独立评估，但多跳推理依赖跨单元的证据链。referential dangling 表明该假设在依赖场景下失效，压缩器可能保留答案却删除实体定义，导致输出看似相关但不完整。修复需在压缩时考虑单元间依赖，如联合评分或保留证据链，而非仅独立排序。
硬提示压缩被用于降低长上下文推理成本，但该研究揭示其可能系统性损害多跳问答准确性。压缩器在基准上的表现可能高估实际能力，因为 dangling 问题在真实文档中普遍存在。这提示压缩方案需重新设计，兼顾成本与推理完整性。
对依赖长上下文推理的应用（如文档问答、检索增强生成），硬提示压缩的成本优势可能被准确性损失抵消。企业需评估压缩对下游任务的影响，或采用混合策略：对关键推理路径保留完整上下文，对非关键部分压缩。
后续研究可能开发依赖感知的压缩算法，或在压缩后验证证据链完整性。可验证信号：新压缩方法在 bridge 数据集上 dangling 率显著下降，或压缩器在长上下文推理基准上的准确率提升。