三亩地 三亩地SAN MU DI · CODE DIARY
ARTICLE DETAIL

日记详情

真实记录编程学习的某一天,欢迎挑你感兴趣的翻一翻。

【RT-DETR实战】025、OpenVINO部署RT-DETR实战:从模型导出到推理加速的踩坑实录

【RT-DETR实战】025、OpenVINO部署RT-DETR实战:从模型导出到推理加速的踩坑实录

一、问题切入:为什么OpenVINO部署RT-DETR比想象中复杂?

上周在产线部署RT-DETR时遇到个典型问题:PyTorch训练时mAP 78.3%,导出ONNX后在OpenVINO上推理,检测框位置出现系统性偏移。

产线工程师反馈“模型偶尔漏检传送带边缘的工件”,现场调试发现不是偶尔,是边缘区域重复漏检。

这个问题暴露了从动态图到静态图转换时的算子兼容性陷阱——特别是RT-DETR中的可变尺度特征融合模块。

今天这篇笔记,就记录我们如何把RT-DETR完整部署到OpenVINO推理引擎,并解决实际遇到的三个核心问题:动态形状支持、自定义算子转换、后处理优化。


二、模型导出:那些PyTorch到ONNX的“暗坑”

先看最初的导出代码(问题版本):

torch.onnx.export(model,dummy_input,"rtdetr.onnx"
← 返回列表