When Coordination Becomes a Threat: Communication Attacks in LLM-Controlled Multi-Robot Systems
arXiv 论文 2608.06830v1 提出两种针对 LLM 控制的多机器人系统的通信攻击：外部入口点攻击和特权系统内攻击，并在 DMAS、HMAS-1、HMAS-2 三种架构上使用三个 LLM 和五个任务进行评估。结果显示 DMAS 达到 96.7% 的入口认可率和 100% 的认可后激活率。
Development
- First ReportWhen Coordination Becomes a Threat: Communication Attacks in LLM-Controlled Multi-Robot SystemsarXiv cs.RO
- Current Assessment随着 LLM 驱动的多机器人系统在工业、物流等领域应用增加，通信安全成为关键问题。该研究可能促使行业在部署此类系统时考虑安全架构设计，并推动相关安全标准和最佳实践的出现。Agent Pulse · analysis
该论文研究 LLM 控制的多机器人系统中的通信攻击。作者指出，LLM 越来越多地用作具身多机器人系统的高层规划器，但安全研究主要关注单个机器人，多机器人协作中的通信风险未被充分理解。现有研究仅限于分散式多智能体系统（DMAS）架构，不清楚风险是否在其他常见通信架构中持续存在。论文提出两种攻击：外部入口点攻击和特权系统内攻击，对应不同的攻击者访问设置。在 DMAS、HMAS-1 和 HMAS-2 三种架构上，使用三个 LLM 和五个具身多机器人任务进行评估。结果显示，不安全信息在所有三种架构中都能转化为不安全行为：DMAS 达到 96.7% 的入口认可率和 100% 的认可后激活率，HMAS-1 也达到类似水平。
该研究揭示了 LLM 规划器在多机器人系统中的安全漏洞，表明不安全指令可以通过通信架构传播并导致不安全行为。攻击成功率极高，说明当前 LLM 规划器缺乏对恶意指令的鲁棒性。这提示需要开发更安全的通信协议和指令验证机制。
随着 LLM 驱动的多机器人系统在工业、物流等领域应用增加，通信安全成为关键问题。该研究可能促使行业在部署此类系统时考虑安全架构设计，并推动相关安全标准和最佳实践的出现。
对于开发多机器人系统的公司，该研究强调了安全评估的必要性，可能影响产品设计和客户信任。安全漏洞可能导致事故和声誉损失，因此投资于安全措施具有商业价值。
未来可能看到更多针对 LLM 多机器人系统的攻击研究，以及防御机制的开发。可验证的下一信号包括：后续论文提出防御方法，或行业采用更安全的通信协议。