LatentGuard: Efficient and Inspectable Latent Reasoning for LLM Safeguards
LatentGuard 论文提出一种面向 LLM 安全护栏的高效可检查潜在推理框架。实验显示 LatentGuard-8B 相比 GuardReasoner-8B 将平均加权 F1 从 83.95 提升至 84.91，关键路径推理成本从 268.56 个生成理由 token 降至 1.60 个潜在推理 token，审计解码器审计效用得分 85.75。
Development
- First ReportLatentGuard: Efficient and Inspectable Latent Reasoning for LLM SafeguardsarXiv cs.AI
- Current Assessment该研究回应了推理型护栏模型部署成本高的痛点，通过潜在推理将关键路径成本降至接近零，同时保留按需审计能力。这可能在安全审核领域推动更高效的护栏部署，使实时安全过滤在成本敏感场景中更可行。LatentGuard 的课程学习压缩策略和审计解码器设计，为后续研究提供了可复现的框架，可能影响护栏模型的设计范式。Agent Pulse · analysis
LatentGuard 论文提出一种面向 LLM 安全护栏的高效可检查潜在推理框架。推理型护栏模型通过生成显式理由提升安全性，但每个交互都解码显式理由导致部署成本高昂。潜在推理方法将推理移入连续状态以减少 token 生成，但在安全审核领域尚未充分探索，且缺乏部署所需的检查接口。LatentGuard 采用分阶段课程学习，逐步将任务对齐的文本理由压缩为紧凑潜在状态，直接从连续表示预测安全判定。为保持可检查性，独立的辅助解码器按需生成紧凑审计产物，使理由生成脱离标准推理路径。实验表明 LatentGuard-8B 相比 GuardReasoner-8B 将平均加权 F1 从 83.95 提升至 84.91，同时将关键路径推理成本从 268.56 个生成理由 token 降至 1.60 个潜在推理 token。其审计解码器审计效用得分 85.75，展示了面向可部署安全护栏的高效可检查路径。
LatentGuard 的核心创新在于将理由生成从标准推理路径中剥离，通过分阶段课程学习将文本理由压缩为连续潜在状态，使安全判定可直接从潜在表示预测。关键路径 token 成本从 268.56 降至 1.60，降幅约 168 倍，同时 F1 提升近 1 个点，表明潜在推理在安全审核场景中可兼顾效率与效果。可检查性通过独立辅助解码器实现，按需生成审计产物，避免持续解码开销。这一设计将推理成本与审计能力解耦，为护栏模型的部署提供了新思路。
该研究回应了推理型护栏模型部署成本高的痛点，通过潜在推理将关键路径成本降至接近零，同时保留按需审计能力。这可能在安全审核领域推动更高效的护栏部署，使实时安全过滤在成本敏感场景中更可行。LatentGuard 的课程学习压缩策略和审计解码器设计，为后续研究提供了可复现的框架，可能影响护栏模型的设计范式。
对部署 LLM 安全护栏的企业，LatentGuard 可能显著降低推理成本，使实时安全过滤在成本敏感场景中更可行。关键路径 token 成本从 268.56 降至 1.60，意味着单位请求推理开销大幅下降，同时保持可检查性以满足合规要求。这为安全审核服务的成本优化提供了新选项，可能影响护栏产品的定价和部署策略。
后续可验证信号包括：LatentGuard 是否在更大规模模型或更多安全基准上复现收益；审计解码器生成的审计产物在真实部署中的可用性评估；以及该方法是否被集成到主流安全审核工具链中。若这些信号出现，将确认潜在推理在安全护栏领域的实际价值。