PhyAI: Real-Time Physical AI at the Edge, Scalable Rollouts in the Cloud
PhyAI 是一个物理 AI 推理引擎，通过单一运行时统一模型评估、云强化学习、边缘 GPU 服务和机载部署。它在模型适配器中保留特定于架构的条件、求解器、缓存和输出逻辑，同时共享图执行、内核、内存管理和并行服务。同一代码库可在机载、边缘和云部署中运行 VLA 模型和世界动作模型。PhyAI 在 pi0、pi0.5、GR00T N1.7 和 MiniCPM-Robot 上实现了 1.40x-4.65x 的加速。在 Cosmos3-Nano-Policy-DROID 上，8 个 H20 GPU 上延迟从 2.46 秒降至 1.18 秒（2.08 倍加速）。
发展脉络
- 首次出现PhyAI: Real-Time Physical AI at the Edge, Scalable Rollouts in the CloudarXiv cs.AI
- 行业反馈PhyAI: Real-Time Physical AI at the Edge, Scalable Rollouts in the CloudarXiv cs.RO
- 当前判断PhyAI 的出现表明物理 AI 领域正在走向统一推理基础设施，这可能降低部署 VLA 和 WAM 模型的复杂性。通过支持多种模型和部署场景，PhyAI 可能推动物理 AI 在机器人等领域的应用，但专门化运行时的优势表明，针对特定硬件或模型的优化仍有价值。Agent Pulse · 分析
PhyAI 是一个物理 AI 推理引擎，旨在统一物理 AI 策略在整个生命周期中的推理，包括模型评估、云强化学习、边缘 GPU 服务和机载部署。这些设置通常使用单独的推理程序，但 PhyAI 通过单一运行时统一它们，该运行时在模型适配器中保留特定于架构的逻辑，同时共享图执行、内核、内存管理和并行服务。该引擎支持视觉-语言-动作（VLA）模型和世界动作模型（WAM），可在机载、边缘和云部署中运行。通过适配器接口，PhyAI 在 MiniCPM-Robot 发布当天就添加了支持。在基准测试中，PhyAI 在 pi0、pi0.5、GR00T N1.7 和 MiniCPM-Robot 上实现了 1.40x-4.65x 的加速。在 Cosmos3-Nano-Policy-DROID 上，8 个 H20 GPU 上延迟从 2.46 秒降至 1.18 秒，加速 2.08 倍。然而，专门化的运行时在某些配置下仍然更快，因此 PhyAI 的目标是提供具有竞争力的延迟，而不是在每个案例中都是最快的。
PhyAI 的架构通过模型适配器分离了特定于架构的逻辑和共享的推理基础设施，这使得新模型可以快速集成，如 MiniCPM-Robot 在发布当天就得到支持。这种设计可能降低为不同物理 AI 模型维护多个推理程序的开销。其性能提升表明，共享内核和内存管理可以带来显著的加速，但专门化的运行时在某些配置下仍具优势，暗示通用性和极致性能之间存在权衡。
PhyAI 的出现表明物理 AI 领域正在走向统一推理基础设施，这可能降低部署 VLA 和 WAM 模型的复杂性。通过支持多种模型和部署场景，PhyAI 可能推动物理 AI 在机器人等领域的应用，但专门化运行时的优势表明，针对特定硬件或模型的优化仍有价值。
PhyAI 通过统一推理引擎，可能降低物理 AI 部署的工程成本，加速从研究到生产的转化。对于机器人公司，这可以减少维护多个推理程序的开销，并加快新模型的集成。其性能提升可能降低推理延迟，改善实时响应，从而提升产品体验。
未来，PhyAI 可能会扩展支持更多模型和硬件，并进一步优化性能。其适配器接口可能成为物理 AI 推理的标准，促进模型的可移植性。可验证的下一信号包括：PhyAI 是否在更多基准上超越专门化运行时，以及是否被广泛采用。