三亩地 三亩地SAN MU DI · CODE DIARY
ARTICLE DETAIL

日记详情

真实记录编程学习的某一天,欢迎挑你感兴趣的翻一翻。

【RT-DETR实战】124、使用Vitis AI在FPGA上部署RT-DETR:从模型量化到板卡推理的实战踩坑记录

【RT-DETR实战】124、使用Vitis AI在FPGA上部署RT-DETR:从模型量化到板卡推理的实战踩坑记录

一、问题切入:为什么FPGA上的RT-DETR推理速度比预期慢30%?

上周在ZCU102评估板上部署RT-DETR-nano版本时,发现推理帧率只有23FPS,与理论估算的32FPS差距明显。用vaitrace工具抓取执行时间线,发现DPU的利用率只有65%左右,大量时间消耗在数据搬运和预处理上。这个现象引出了今天要讨论的核心问题:如何让RT-DETR在FPGA上真正跑出应有的性能

二、模型量化阶段的“暗坑”

Vitis AI的量化工具vai_q_pytorch用起来顺手,但有几个细节不注意就会导致精度大幅下降:

# 量化校准脚本片段frompytorch_nndctimportQuantCalibrator calibrator=QuantCalibrator(model,input_args,
← 返回列表