wang-xinyu / tensorrtx

Implementation of popular deep learning networks with TensorRT network definition API
MIT License
7.04k stars 1.78k forks source link

Fixed a bug with inconsistent inference results #1468

Closed stbidtf closed 8 months ago

stbidtf commented 8 months ago

对于同一张图循环推理时,如果检测的目标过多,两个目标的置信度conf可能相等,则根据conf排序时有可能导致排序的不稳定性,在进行一下步的求iou会出现不同的结果。所以要保证tensorrt并行推理结果顺序不同时,排序后的结果一致,不会出现排序的不稳定性

我用一张图的循环4次推理结果图,两两对比有什么区别,发现有不同的像素 image 通过固定每次conf相等时的检测结果,结果就保持一致了 image

stbidtf commented 8 months ago

我删除了原来的,重新fork了一下。只加了那三行,其他的都没动

wang-xinyu commented 8 months ago

这次OK了 👍