【RT-DETR实战】026、TensorRT部署RT-DETR实战(FP32/FP16)

📅 2026/7/7 14:04:03 👁️ 阅读次数 📝 编程学习
【RT-DETR实战】026、TensorRT部署RT-DETR实战(FP32/FP16)

一、深夜的报错日志

凌晨两点,终端里又弹出一行熟悉的错误:[TensorRT] ERROR: INVALID_ARGUMENT: getPluginCreator could not find plugin ...。这已经是这周第三次在RT-DETR转TensorRT时卡在插件注册环节了。

真实的工程部署从来不是跑通官方demo就结束,那些藏在细节里的魔鬼,总在深夜的日志里露出獠牙。

今天咱们不聊理论,直接上手解决实际问题。

RT-DETR作为Transformer架构的目标检测器,部署到TensorRT时面临两个核心挑战:动态shape支持和自定义算子转换。

下面这份笔记,是我在三个实际项目中踩坑填坑的实战记录。

二、环境配置的隐蔽陷阱

很多人以为装好TensorRT就万事大吉,其实环境配置里埋着不少雷。

先说版本匹配问题,PyTorch、ONNX、TensorRT三者的版本必须严格对齐。

# 错误示范:随便装个最新版# pip install tensorrt # 这样装大概率后面会崩# 正确姿势:去官网下载对应CUDA版本的tar包# 我用的组合是: