在智能硬件实验室的IoT方向，我们把研究重点放在端侧推理的「预算」问题上：网关与低功耗节点的内存、算力和供电都有硬约束，模型精度并非唯一指标。本期实验以振动异常检测和轻量视觉分类为验证场景，比较浮点模型、INT8量化与结构化剪枝在边缘SoC与MCU上的实际表现。
进展要点：
- 在256MB内存的网关上，INT8量化后模型体积由18MB降至4.7MB，单帧推理延迟由86ms降至31ms，精度损失控制在1.5个百分点以内；
- 配合事件触发采样与分级唤醒，节点平均功耗下降约40%，同等电池容量下续航由约9个月延长至14个月。
下一步计划把量化策略与OTA升级通道打通，支持按设备型号与现场负载下发不同精度档位的模型版本，并补充端侧误报回流机制，用于阈值与采样策略的持续校准。
评论