先把对照样本固定下来
模型部署最怕的问题是“结果不一样,但不知道从哪一步开始不一样”。所以我倾向于先固定一组输入样本:正常天空、复杂背景、小目标、疑似误检目标、无目标背景。每个样本都保留 PyTorch 输出和 ONNX 输出。
这组样本不是为了追求覆盖所有情况,而是为了在转换链路里建立一个最小参照系。
输出差异要分层看
如果 PyTorch 和 ONNX 的 logits 或 bbox 已经明显不同,问题可能在导出、算子替换或预处理。
如果 ONNX 没问题,但 OM 推理结果不同,问题更可能在 ATC 转换、输入布局、dtype 或后处理。
如果数值接近但最终框不同,就要检查 NMS、阈值、坐标还原和 letterbox。
这也是我想把 WAVE 部署报告做成链路型文档的原因:每一步都能接上一段证据,而不是只有最终 FPS。
Comments
评论