AI模型产线轻量化:剪枝蒸馏与INT8部署定制
2026-09-19
客户产线视觉检测模型原始FP32精度下单帧推理320ms,无法满足120ms节拍要求。我们介入完成端到端轻量化改造。
• 结构化剪枝去除30%冗余通道,蒸馏补偿后mAP仅下降0.4个百分点,叠加INT8量化与TensorRT引擎,单帧耗时稳定降至75ms;
• 同步搭建异常样本回流通道,模型支持OTA灰度上线,CPU侧保留150ms回退预案。
改造后单点检测耗时稳定在90ms以内,已在三家分厂复制部署,产线漏检率同步下降约18%。