search

apxlwl / MobileNet-v2-pruning

Try out different pruning-approaches on lightweight Backbones.
144 stars 31 forks source link

关于参数变化 #9

Open YongboLiang opened 4 years ago

YongboLiang commented 4 years ago

你好，我基于mobilenet，利用slimming来进行剪枝，下面是运算量和参数数量的变化 flops:313.464M->310.625M, params: 2.226M->2.206M。 实验过程中的参数设置是和您给的一样的，但是剪枝后的参数数量基本变化不大，和图表展示的有很大的差异。 您可以在空闲的时间回复一下吗？我应该怎么达到图表中剪枝的效果呢？谢谢

Jinjicheng commented 3 years ago

在slimming.py中，参数pruneratio根本没有用到啊

qinger2020 commented 3 years ago

同一楼，不清楚现在的slimming.py 的css_thresholding 是否可行？ 如何修改剪枝比例？

qinger2020 commented 3 years ago

你好，我基于mobilenet，利用slimming来进行剪枝，下面是运算量和参数数量的变化 flops:313.464M->310.625M, params: 2.226M->2.206M。 实验过程中的参数设置是和您给的一样的，但是剪枝后的参数数量基本变化不大，和图表展示的有很大的差异。 您可以在空闲的时间回复一下吗？我应该怎么达到图表中剪枝的效果呢？谢谢

请问你解决了吗？

PQ-girl commented 3 years ago

@YongboLiang你解决了吗？我修剪完 不仅参数减少了这么点，而且加载出来的准确率我训练的时候达到了九十几，加载出来是十几，你知道为什么吗

Li-Lai commented 3 years ago

@YongboLiang @Jinjicheng @qinger2020 1：slimming原先是全局排序裁减，后面作者调整为根据该层排序裁剪，可以查一下history就能看到。 2：自己可以调整css_thresholding函数，达到自己设计的剪枝比例；实在不会，那就直接将OT_DISCARD_PERCENT=1e-2调大。就能看到压缩flops和param效果了。 @PQ-girl prune完需要finetune.

puyiwen commented 2 years ago

@YongboLiang @Jinjicheng @qinger2020 1：slimming原先是全局排序裁减，后面作者调整为根据该层排序裁剪，可以查一下history就能看到。 2：自己可以调整css_thresholding函数，达到自己设计的剪枝比例；实在不会，那就直接将OT_DISCARD_PERCENT=1e-2调大。就能看到压缩flops和param效果了。 @PQ-girl prune完需要finetune.

您好，这个slimming剪枝后的模型有没有重构？而且我看剪枝后的通道数不是8的倍数。。这个是要自己写是吗

puyiwen commented 2 years ago

@YongboLiang @Jinjicheng @qinger2020 1：slimming原先是全局排序裁减，后面作者调整为根据该层排序裁剪，可以查一下history就能看到。 2：自己可以调整css_thresholding函数，达到自己设计的剪枝比例；实在不会，那就直接将OT_DISCARD_PERCENT=1e-2调大。就能看到压缩flops和param效果了。 @PQ-girl prune完需要finetune.

您好，这个slimming剪枝后的模型有没有重构？而且我看剪枝后的通道数不是8的倍数。。这个是要自己写是吗