search

shouxieai / tensorRT_Pro

C++ library based on tensorrt integration
MIT License
2.62k stars 549 forks source link

simple_yolo中的compile转换带nms的yolov7_tiny.onnx, 失败！ #127

Open xinsuinizhuan opened 2 years ago

xinsuinizhuan commented 2 years ago

使用如下命令生成带nms的yolov7_tiny版本onnx： python export.py --weights yolov7-tiny.pt --grid --end2end --simplify --topk-all 100 --iou-thres 0.65 --conf-thres 0.35 --img-size 640 640 --max-wh 640 然后使用simple_yolo中的compile转换onnx成tensorrt， 转换的时候： output shape is 100x7 图片 转换完加载模型的时候，反序列化时， output is 1x7 图片

shouxieai commented 2 years ago

因为他第一个维度是batch，你应该让第一个维度始终是batch