search

UNeedCryDear / yolov8-opencv-onnxruntime-cpp

yolov8 hub,cpp with onnxruntime and opencv
Apache License 2.0
337 stars 59 forks source link

rtdetr OnnxBatchDetect 多张图返回结果有问题 #56

Closed 1179993113 closed 3 months ago

1179993113 commented 6 months ago

rtdetr OnnxBatchDetect 多张图返回结果有问题，请问下改如何修改

UNeedCryDear commented 6 months ago

请给出具体问题说明，或者给出模型和测试图片，你这么说我也不清楚你到底结果问题是什么

1179993113 commented 4 months ago

第一张图片返回结果正常，后续的图片返回结果都有问题，猜测是不是 all_data += one_output_length导致的，因为其他检测的这行代码cv::Mat output0 = cv::Mat(cv::Size((int)_outputTensorShape[2], (int)_outputTensorShape[1]), CV_32F, all_data).t(); //[bs,116,8400]=>[bs,8400,116] 都进行过了.t()转置处理，redetr没有转置，从而导致后续的图片返回结果有异常？还请大佬帮忙解答一下，该如何修改