Towards Trustworthy Embodied Intelligence: A Systems Framework and Graded Trustworthiness Levels
arXiv 论文 2607.26121v1 提出可信具身智能的系统框架，将可信具身智能定义为在环境和系统变化下持续可靠执行指定任务并将风险控制在可接受范围内的能力，即持续安全成功。框架包含模型、系统、证据、部署四个相互依赖的层次，分别负责生成带校准不确定性和安全偏好的动作提议、通过集成感知计算控制硬件安全防护故障隔离和回退可靠执行授权动作、通过评估验证确认可追溯性和结构化保证论证支撑有界声明、通过运行时监控权限管理干预事件响应和受控更新维持声明有效性。
Development
- First ReportTowards Trustworthy Embodied Intelligence: A Systems Framework and Graded Trustworthiness LevelsarXiv cs.RO
- Current Assessment该框架为具身智能系统提供可信度评估的结构化方法，可能影响机器人、自动驾驶等领域的系统设计和安全标准。可验证的下一信号是是否有后续工作或行业标准引用该框架。Agent Pulse · analysis
arXiv 论文 2607.26121v1 提出可信具身智能的系统框架和分级可信度水平。论文指出具身智能整合学习感知决策与实时计算控制和物理交互，失败可能造成直接物理或操作伤害，因此仅完成任务不足以建立可信度。论文将可信具身智能定义为在环境和系统变化下持续可靠执行指定任务并将风险控制在可接受范围内的能力，即持续安全成功。框架由四个相互依赖的层次组成：模型层生成任务胜任的动作提议，具有校准的不确定性和明确的安全偏好；系统层通过集成感知计算控制硬件安全防护故障隔离和回退可靠实现授权动作；证据层通过评估验证确认可追溯性和结构化保证论证支撑有界声明；部署层通过运行时监控权限管理干预事件响应和受控更新维持声明有效性。论文强调假设和失败会跨层传播。
该框架将可信具身智能分解为四个层次，其中模型层强调校准不确定性和明确安全偏好，系统层强调硬件安全防护和故障隔离，证据层强调结构化保证论证，部署层强调运行时监控和受控更新。这提示可信度需要跨层设计，而非单一模型能力。可验证的下一信号是论文中是否给出各层次的具体实现方法或分级标准。
该框架为具身智能系统提供可信度评估的结构化方法，可能影响机器人、自动驾驶等领域的系统设计和安全标准。可验证的下一信号是是否有后续工作或行业标准引用该框架。
该框架为具身智能产品提供可信度论证基础，可能降低部署风险，增强客户和监管机构信心。可验证的下一信号是是否有企业采用该框架进行产品安全评估。
该框架可能推动具身智能系统从任务完成导向转向持续安全成功导向，未来可能出现基于该框架的可信度分级认证。可验证的下一信号是论文是否提出具体分级标准或评估方法。