search

lyuwenyu / RT-DETR

[CVPR 2024] Official RT-DETR (RTDETR paddle pytorch), Real-Time DEtection TRansformer, DETRs Beat YOLOs on Real-time Object Detection. 🔥 🔥 🔥
Apache License 2.0
2.31k stars 258 forks source link

v2 assert dtype error #444

Open TtopsBo opened 2 weeks ago

TtopsBo commented 2 weeks ago

Star RTDETR 请先在RTDETR主页点击star以支持本项目 Star RTDETR to help more people discover this project.

Describe the bug

image 您好 是否注释掉assert 强制使用一样的dtype 不影响使用呢 To Reproduce !python rtdetrv2_pytorch/tools/export_onnx.py -c rtdetrv2_pytorch/configs/rtdetrv2/rtdetrv2_r18vd_120e_coco.yml -r output/rtdetrv2_r18vd_120e_coco/best.pth --check !trtexec --onnx=model.onnx --saveEngine=model.trt --fp16 !python rtdetrv2_pytorch/references/deploy/rtdetrv2_tensorrt.py --trt-file=model.trt --im-file=image.jpg

lyuwenyu commented 2 weeks ago

你去掉试一下，结果应该不对。 在数据类型上最好保持一致

TtopsBo commented 2 weeks ago

你去掉试一下，结果应该不对。 在数据类型上最好保持一致

Wenyu您好， 我强制指定dtype一样，在custom dataset上使用tensorrt运行起来没问题，谢谢您的回答！