三亩地 三亩地SAN MU DI · CODE DIARY
ARTICLE DETAIL

日记详情

真实记录编程学习的某一天,欢迎挑你感兴趣的翻一翻。

【RT-DETR实战】024、NCNN框架部署RT-DETR实战:从模型导出到端侧推理的踩坑实录

【RT-DETR实战】024、NCNN框架部署RT-DETR实战:从模型导出到端侧推理的踩坑实录

一、问题切入:为什么我的RT-DETR在NCNN上跑不起来?

上周在部署RT-DETR到边缘设备时,遇到一个典型问题:PyTorch训练好的模型精度很高,导出到NCNN后检测框全部偏移,甚至出现满屏乱飞的现象。

同事在旁吐槽:“这模型在端侧水土不服啊。” 其实问题往往出在预处理对齐算子支持度这两个老生常谈的环节。

今天我们就拆解RT-DETR的NCNN部署全流程,把关键坑点逐个填平。


二、模型导出:PyTorch到ONNX的暗礁

RT-DETR的PyTorch模型通常包含动态算子,直接torch.onnx.export大概率失败。

先看一个常见错误写法:

# 别这样写!动态维度处理会丢信息torch.onnx.export(model,dummy_input,
← 返回列表