search

ZJU-lishuang / yolov5_prune

yolov5 prune，Support V2, V3, V4 and V6 versions of yolov5
Apache License 2.0
556 stars 136 forks source link

剪枝后模型推理速度没有提升 #81

Open ztrong-forever opened 2 years ago

ztrong-forever commented 2 years ago

大佬您好，按照您的流程走下来，利用8通道剪枝策略，推理速度和原版几乎没有改变。 显卡2080ti,请问这是为什么啊

ZJU-lishuang commented 2 years ago

加速体现在开发版上，显卡上瓶颈在未达到算力顶峰时为数据复制粘贴耗时

ztrong-forever commented 2 years ago

感谢大佬解答！还有一个问题，您的剪枝算法后的模型结构没有发生改变，剪掉的参数变为0，是不是0的数值计算要比常规数值要快。能够加速是不是体现在这呢

ZJU-lishuang commented 2 years ago

我都重新生成cfg文件了，模型结构怎么没变

ZJU-lishuang commented 2 years ago

你说的是yolov5官方提供的非结构化剪枝吧，这里是结构化剪枝。

ztrong-forever commented 2 years ago

好的大佬!感谢解答！！！

ztrong-forever commented 2 years ago

大佬您好！！可以加个微信嘛，我太想向您请教一下细节了，拜托拜托，有偿请教，万分感谢大佬！！ 微信号：zt18756192838