AGENT PULSESJCPal Special EditionAI Industry Evidence & Trends
Sep 7, 2026 · Ultralytics

v8.4.143 - Add INT8 quantization-aware training via quantize=8 in train mode (#26083)

What Happened

Ultralytics YOLO v8.4.143 发布,新增 INT8 量化感知训练(QAT)支持,通过 train 模式下的 quantize=8 参数实现。该功能在训练时模拟 INT8 量化,微调预训练权重,并将校准范围存入检查点,支持直接导出到 ONNX 和 TensorRT(含 Q/DQ 节点),无需导出时校准数据。同时改进了验证指标(每类 AP75)和部署文档。

EVENT STORY

Development

  1. First Reportv8.4.143 - Add INT8 quantization-aware training via quantize=8 in train mode (#26083)Ultralytics
  2. Current Assessment该功能降低了边缘设备部署 YOLO 模型的复杂度,可能推动更多实时推理应用。Ultralytics 持续优化部署工具链,反映开源模型在边缘 AI 的竞争加剧。Agent Pulse · analysis
What Changed

Ultralytics 发布 YOLO v8.4.143,引入 INT8 量化感知训练(QAT),允许在训练阶段模拟 INT8 量化,使模型在部署前适应量化误差,而非训练后直接量化。该功能复用现有 quantize 参数,无新增 API 或依赖,支持将校准范围存入检查点,并可直接导出到 ONNX 和 TensorRT(含 Q/DQ 节点),无需导出时提供校准数据。这简化了边缘设备部署流程,尤其适合资源受限的硬件。此外,该版本还增加了每类 AP75 验证指标,覆盖检测、分割、姿态和 OBB 任务,并改进了 DeepStream 部署文档,使用原生导出器。

How the Capability Boundary Shifted

INT8 QAT 在训练中模拟量化,使模型权重适应量化噪声,通常能减少精度损失。将校准范围存入检查点并支持导出时无需校准数据,简化了部署流程。但 QAT 的有效性依赖于训练数据的代表性,且校准范围可能过拟合训练分布。建议验证在真实部署数据上的表现,并监控量化敏感层。

Why It Matters

该功能降低了边缘设备部署 YOLO 模型的复杂度,可能推动更多实时推理应用。Ultralytics 持续优化部署工具链,反映开源模型在边缘 AI 的竞争加剧。

Who It Affects

对于使用 YOLO 的开发者,该功能可减少部署工作量,提升模型在边缘设备上的性能,可能降低推理成本。

What to Watch Next

后续可关注该 QAT 功能在社区的实际使用反馈,以及是否支持其他量化精度(如 FP16)或自动校准策略。