为啥我测试之后发现模型前向推断速度并没有加快呢？

Lam1360 / YOLOv3-model-pruning

在 oxford hand 数据集上对 YOLOv3 做模型剪枝（network slimming）

MIT License

1.67k stars 431 forks source link

Open texasmotorcycle opened 4 years ago

linsongxue commented 4 years ago

我也发现这个问题了，是不是显卡的问题，我用的是性能比较低的1050

Dely-Yu commented 4 years ago

@linsongxue 。同学，你test的时候又发现速度超级慢吗？我平均处理一张图需要10分钟。

ZhangAdjy commented 4 years ago

@linsongxue 。同学，你test的时候又发现速度超级慢吗？我平均处理一张图需要10分钟。

十分钟太夸张了吧，我剪枝后的模型运算速度和剪枝前没啥区别，1660Ti设置bitch_size=8的时候耗时400ms，也就是说处理平均一张图50ms

ZhangAdjy commented 4 years ago

我测试剪枝后的模型也没有加快

linsongxue commented 4 years ago

@Dely-Yu 10分钟还是比较夸张的，但是我觉得没啥变化

linsongxue commented 4 years ago

@ZhangAdjy 我后来发现，检测时间其实有一半以上都花费在NMS算法上。所以这个项目的速度提升很可能是用了更少的分类，所以NMS所用时间减少了。

906096481 commented 2 years ago

请问一下大佬们，检测速度的代码在哪里啊，我没有找到呜呜呜