search

jiachengjiacheng / Pruned-YOLO

Using model pruning method to obtain compact models Pruned-YOLOv5 based on YOLOv5.
Apache License 2.0
57 stars 10 forks source link

如何有效稀疏化？ #2

Open sbbug opened 3 years ago

sbbug commented 3 years ago

按照你设置的参数稀疏化训练模型，迭代了60轮，怎么没效果，s=0.0001 image 请问参数该如何调整呢？

jiachengjiacheng commented 3 years ago

按照你设置的参数稀疏化训练模型，迭代了60轮，怎么没效果，s=0.0001 image 请问参数该如何调整呢？

我在实验的过程中也发现YOLOv5稀疏化比较困难，所以需要设置较大的s。s的设置与模型和数据集都有关系，推荐参考这篇paper：《Rethinking the Smaller-Norm-Less-Informative Assumption in Channel Pruning of Convolution Layers》。

sbbug commented 3 years ago

按照你设置的参数稀疏化训练模型，迭代了60轮，怎么没效果，s=0.0001 image 请问参数该如何调整呢？

我在实验的过程中也发现YOLOv5稀疏化比较困难，所以需要设置较大的s。s的设置与模型和数据集都有关系，推荐参考这篇paper：《Rethinking the Smaller-Norm-Less-Informative Assumption in Channel Pruning of Convolution Layers》。

好的，感谢！

sbbug commented 3 years ago

稀疏化后进行剪枝，为何微调时，mAP几乎为零。 下面是稀疏化后结果： image

jiachengjiacheng commented 3 years ago

稀疏化后进行剪枝，为何微调时，mAP几乎为零。 下面是稀疏化后结果： image

可能剪枝率太大？

sbbug commented 3 years ago

稀疏化后进行剪枝，为何微调时，mAP几乎为零。 下面是稀疏化后结果： image

可能剪枝率太大？

总体剪枝率设置为0.5，每一层保持率在0.1。 我发现经过微调训练，准确率基本会跟上来，确实奇怪！！

syswyl commented 3 years ago

按照你设置的参数稀疏化训练模型，迭代了60轮，怎么没效果，s=0.0001 image 请问参数该如何调整呢？

请问一下你本地测试通过的是基于v5哪个版本呢 能不能简单提供一下剪枝成功的配置文件和关键py文件之内😀

leng17 commented 2 years ago

按照你设置的参数稀疏化训练模型，迭代了60轮，怎么没效果，s=0.0001 image 请问参数该如何调整呢？

我在实验的过程中也发现YOLOv5稀疏化比较困难，所以需要设置较大的s。s的设置与模型和数据集都有关系，推荐参考这篇paper：《Rethinking the Smaller-Norm-Less-Informative Assumption in Channel Pruning of Convolution Layers》。

好的，感谢！

您好，我想问一下您的BN层ganmma系数是怎么看的，我的tensorboard中没有这个图，或者是自己写代码弄出来的么?