Jul 30, 2026 · Security of World-Model-Based Embodied AI
Security of World-Model-Based Embodied AI: A Lifecycle of Threats, Defenses, and Evaluation
arXiv 发布了一篇关于世界模型具身 AI 安全的综述，系统梳理了从数据构建、表征学习、状态接地、想象、轨迹评估、执行到长期记忆与工具适应的全生命周期威胁，包括投毒、后门、对抗样本、传感器欺骗、提示注入、轨迹操纵和供应链攻击，并指出世界模型既可作运行时安全屏障，也可能产生预测性安全幻觉。
EVENT STORY
Development
- First ReportSecurity of World-Model-Based Embodied AI: A Lifecycle of Threats, Defenses, and EvaluationarXiv cs.AI
- Current Assessment具身 AI 安全正从单点防御转向生命周期视角，世界模型作为预测核心成为关键攻击面。安全评估协议可能成为行业标准，推动安全即服务的需求。Agent Pulse · analysis
该综述将世界模型视为具身 AI 的预测核心，压缩观测为状态、模拟行动条件未来并支持规划。其安全边界贯穿全生命周期，攻击可经数据、传感器、提示或反馈传播至物理行动。综述提出生命周期分类法，将攻击映射至世界模型安全属性，并给出安全失败评估协议。
世界模型的安全威胁与传统模型不同：攻击可污染世界状态、学习动力学、可供性估计或安全成本。综述强调安全幻觉风险，即模型过度自信地预测安全结果。未来需关注状态接地与想象阶段的对抗鲁棒性，以及记忆与工具集成带来的新攻击面。
具身 AI 安全正从单点防御转向生命周期视角，世界模型作为预测核心成为关键攻击面。安全评估协议可能成为行业标准，推动安全即服务的需求。
对具身 AI 公司，安全评估协议可降低部署风险，增强客户信任；安全幻觉检测工具可能成为差异化卖点。
可验证信号：后续是否出现针对世界模型状态接地与想象阶段的标准化对抗鲁棒性基准，以及安全幻觉检测工具。