Securing AI agents requires securing the systems around them
Red Hat 在一篇博客中指出，企业 AI 正从主要生成信息的软件，转变为可以采取行动的软件。AI agent 能调用 API、调用工具、访问文件与凭证、通过网络通信并直接与业务系统交互。这种能力在赋予 agent 更大触达范围和权限的同时，也改变了企业需要保护的对象。文章认为模型侧防护仍然重要，但无法承担全部安全负担；一旦 agent 能对企业系统采取行动，安全就必须延伸到模型被指示做什么之外。
发展脉络
- 首次出现Securing AI agents requires securing the systems around themRed Hat AI
- 当前判断企业 AI 的采购与部署讨论正在从「模型能不能做」转向「agent 被允许做什么、由谁兜底」。若安全责任被明确划到系统侧，平台与基础设施厂商在 agent 落地中的话语权会上升，而单纯模型能力不再是唯一卖点。Agent Pulse · 分析
Red Hat 博客《Securing AI agents requires securing the systems around them》提出一个安全边界判断：企业 AI 的形态正在从「生成信息」转向「采取行动」。证据列举的 agent 能力包括调用 API、调用工具、访问文件与凭证、通过网络通信、直接与业务系统交互。文章的核心论点是，这些能力之所以有用，正是因为它们给了 agent 更大的触达范围和权限，而这同时改变了企业需要保护的对象。Red Hat 明确表示，模型侧防护（model safeguards）仍然重要，但不能承担全部安全负担；当 agent 能够对企业系统执行动作时，安全范围必须超出「模型被指示做什么」。证据未给出具体产品、客户、数字或时间表。
从工程视角看，这条判断把 agent 安全的重心从提示与模型对齐，移向 agent 所连接的系统本身：凭证、文件、网络与业务 API 构成实际攻击面。可验证的下一信号是 Red Hat 是否给出具体的权限边界、凭证隔离或工具调用审计方案，而非仅停留在原则表述。
企业 AI 的采购与部署讨论正在从「模型能不能做」转向「agent 被允许做什么、由谁兜底」。若安全责任被明确划到系统侧，平台与基础设施厂商在 agent 落地中的话语权会上升，而单纯模型能力不再是唯一卖点。
对采用 agent 的企业，这条信息提示安全预算与评审范围应覆盖 agent 可触达的凭证、文件与业务系统，而不只是模型输出过滤。可验证的下一步是检查现有 agent 部署中工具调用与凭证访问是否有独立于模型的权限控制与审计记录。
后续可观察 Red Hat 是否发布配套的 agent 安全架构、参考实现或与身份/权限体系的集成说明；若长期只有观点而无工程细节，该议题可能停留在营销层面。