QuantWAMs: Calibrating at the Right Granularity for World Action Models
QuantWAMs 是一个针对 World Action Models (WAMs) 的后训练量化 (PTQ) 框架，通过共享基异常校准、联合训练目标显著性、固定干预 rollout 审计三种策略，在 Fast-WAM 和 LingBot-VA 上评估，覆盖 RoboTwin 2.0、LIBERO 和真实机器人操作，采用 W4A4 主导设置。
Development
- First ReportQuantWAMs: Calibrating at the Right Granularity for World Action ModelsarXiv cs.AI
- Current AssessmentWAMs 作为具身智能的基础模型，其高效部署是商业化关键。QuantWAMs 聚焦于 PTQ，表明研究社区正致力于降低 WAMs 的推理成本，使其在真实机器人上可行。该工作评估了真实机器人操作（AgiBot G2），显示从仿真到现实的迁移是重点。W4A4 主导设置表明 4-bit 量化成为主流，这有助于在边缘设备上部署。Agent Pulse · analysis
World Action Models (WAMs) 联合预测未来观测和动作，但其迭代去噪和闭环执行使得高效部署成本高昂。现有的后训练量化 (PTQ) 方法因依赖开环目标、同质模型假设和不符合部署的校准分布，不适合 WAMs。QuantWAMs 提出一种 PTQ 框架，将量化决策与模型结构、rollout 分布和任务目标定义的校准上下文对齐。它引入三种策略：共享基异常校准（仅跨坐标兼容模块池化激活证据）、联合训练目标显著性（从联合视频-动作梯度计算经验 Fisher 分数，并在校准稳定的层粒度分配权重精度）、固定干预 rollout 审计（使用可达闭环状态修订去噪步骤保护计划，不改变精度预算）。在 Fast-WAM 和 LingBot-VA 上，跨 RoboTwin 2.0、LIBERO 和真实机器人操作（AgiBot G2）评估，在 W4A4 主导设置下取得结果。
QuantWAMs 的核心贡献在于将量化校准与部署上下文对齐，而非仅优化模型精度。共享基异常校准表明，激活异常值可能仅存在于坐标兼容的模块中，池化不兼容模块的证据会引入噪声。联合训练目标显著性使用经验 Fisher 分数，从联合视频-动作梯度中计算，这比单独考虑视觉或动作损失更符合 WAMs 的联合预测目标。固定干预 rollout 审计通过可达闭环状态修订去噪步骤保护，表明量化策略需考虑闭环执行中的状态分布。这些方法共同指向一个趋势：量化正从通用方法转向针对特定模型架构和部署场景的定制化。
WAMs 作为具身智能的基础模型，其高效部署是商业化关键。QuantWAMs 聚焦于 PTQ，表明研究社区正致力于降低 WAMs 的推理成本，使其在真实机器人上可行。该工作评估了真实机器人操作（AgiBot G2），显示从仿真到现实的迁移是重点。W4A4 主导设置表明 4-bit 量化成为主流，这有助于在边缘设备上部署。
QuantWAMs 通过降低 WAMs 的部署成本，直接提升具身智能产品的商业可行性。对于机器人公司，这意味着更低的硬件要求和更快的推理速度，从而降低单位任务成本。对于云服务提供商，高效的量化模型可以减少推理基础设施的投入。该工作可能加速 WAMs 在工业、物流等场景的落地。
QuantWAMs 的下一步可能包括：在更多 WAM 架构上验证其泛化性；探索量化感知训练 (QAT) 与 PTQ 的结合；将方法扩展到其他模态（如触觉、音频）；以及在实际机器人部署中测试端到端性能。可验证的信号包括：QuantWAMs 是否被集成到主流 WAM 框架中，或是否有后续工作扩展其方法。