2026年8月1日 · When Prompts Control Robots
When Prompts Control Robots: Prompt Injection Attacks in Multi-Agent Robotic Systems
arXiv 论文（2608.00747v1）首次系统研究多智能体 LLM 机器人系统中的提示注入攻击，实验表明攻击可诱导对抗行为并降低任务完成率，且可通过共享提示结构在智能体间传播。
EVENT STORY
发展脉络
- 首次出现When Prompts Control Robots: Prompt Injection Attacks in Multi-Agent Robotic SystemsarXiv cs.RO
- 当前判断随着 LLM 集成到机器人系统，安全漏洞成为关键挑战。多智能体场景扩大攻击面，行业需在部署前进行安全评估，并开发防御机制。Agent Pulse · 分析
该论文评估了针对基于 LLM 的多智能体机器人系统的提示注入攻击，涵盖直接注入任务指令和通过感知模块的间接注入。实验在不同攻击目标复杂度和注入策略下进行，包括单智能体和多智能体设置，结果显示提示注入能诱导对抗行为并降低任务完成率。攻击可通过共享提示结构在智能体间传播，影响因提示组成和目标智能体而异。研究还分析了架构变化对 LLM 查询及攻击成功率的影响。这是首个系统研究多智能体 LLM 机器人系统中提示注入攻击的工作。
多智能体 LLM 机器人系统面临提示注入攻击的跨智能体传播风险，攻击可通过共享提示结构扩散，影响任务完成。架构变化（如提示组成、目标智能体）显著影响攻击成功率，提示工程需考虑安全加固。
随着 LLM 集成到机器人系统，安全漏洞成为关键挑战。多智能体场景扩大攻击面，行业需在部署前进行安全评估，并开发防御机制。
对于机器人系统开发商，安全漏洞可能带来物理危害和声誉损失，投资安全测试和加固是必要的。
未来研究可能聚焦于防御策略，如输入过滤、权限隔离和异常检测，以缓解提示注入攻击。