Open lizhe1531 opened 7 months ago
作者你好， 我在V100上设置val_dataloader:batchsize=1，打算测试推理速度，采用cuda11.7，pytorch2.0.1的推荐配置。直接运行python tools/train.py -c configs/rtdetr/rtdetr_r18vd_6x_coco.yml -r rtdetr_r18vd_dec3_6x_coco_from_paddle.pth --test-only来进行测试，精度没有什么问题，但速度似乎有很大差距，r18上的latency达到了51.8ms，虽然没有转tensorrt，但和论文结果差距太大，可能是因为什么问题导致的呢？
需要改动什么默认的参数配置吗？
导出onnx测一下
lyuwenyu
commented
7 months ago lyuwenyu
commented
7 months ago
作者你好， 我在V100上设置val_dataloader:batchsize=1，打算测试推理速度，采用cuda11.7，pytorch2.0.1的推荐配置。直接运行python tools/train.py -c configs/rtdetr/rtdetr_r18vd_6x_coco.yml -r rtdetr_r18vd_dec3_6x_coco_from_paddle.pth --test-only来进行测试，精度没有什么问题，但速度似乎有很大差距，r18上的latency达到了51.8ms，虽然没有转tensorrt，但和论文结果差距太大，可能是因为什么问题导致的呢？
需要改动什么默认的参数配置吗？