SpursLipu / YOLOv3v4-ModelCompression-MultidatasetTraining-Multibackbone

YOLO ModelCompression MultidatasetTraining
GNU General Public License v3.0
445 stars 136 forks source link

量化 #1

Closed Liqing6668 closed 4 years ago

Liqing6668 commented 4 years ago

您好,我现在模型大小通过剪枝已经剪到了原来模型10%,请问量化效果还大吗?

SpursLipu commented 4 years ago

量化我还在更新中,现在只做了w的二值化,具体效果可能和数据集还有关,你可以试试逐层量化,看看量化多少层精度还不变,这样能够最小化模型且保证精度,如果全部量化的话,感觉精度会掉不少。

Chase2816 commented 4 years ago

我在coldlarry/YOLOv3-complete-pruning项目中训练自定义数据集,测试的mAP在0.796,但是在检测的时候出现少框或者多框的情况,是我数据处理的问题,还是我什么参数没调对吗?

SpursLipu commented 4 years ago

你可以试着改变一下置信度度和iou的阈值,多框可能是iou的阈值太小,少框可能是置信度的阈值太大,你调着试试吧

H-YunHui commented 4 years ago

@SpursLipu 微信图片_20200425135335 是否在此模型基础上使用过BNN、BWN和stage-wise 训练策略训练策略,精度和速度如何?