search

tanluren / yolov3-channel-and-layer-pruning

yolov3 yolov4 channel and layer pruning, Knowledge Distillation 层剪枝，通道剪枝，知识蒸馏
Apache License 2.0
1.5k stars 446 forks source link

为什么maxpool与upsample前一层不参与剪枝 #54

Open pangkun248 opened 4 years ago

pangkun248 commented 4 years ago

1.RT,我发现在好几个版本的剪枝中YOLOv3中都有这种现象，您能说明为什么要这么做吗。 2.普通的通道剪枝后我发现FPS几乎没变，硬件配置是Windows10，CPU:8400，GPU:1660。 我发现Git上几乎所有的通道剪枝70%左右都会有速度翻倍的情况发生。我甚至下载了他们剪枝后的权重以及cfg文件但是速度还是没变。好奇他们又是怎么做到的呢

tanluren commented 4 years ago

1.不是maxpool前不剪，主要是考虑spp那里几个maxpool都在同一个卷积层上池化，剪的话可能会弱化spp的作用；upsample的话做上采样也是考虑减少信息丢失，其实都可以试试剪，看炼丹效果。 2.剪通道是否加速看机器的，有的机器不一定能加速，但计算量和显存占用的减少是实实在在的；我们这里剪层的话基本什么机器都能加速。

pangkun248 commented 4 years ago

你这么说我就了然了