search

ZJU-lishuang / yolov5_prune

yolov5 prune，Support V2, V3, V4 and V6 versions of yolov5
Apache License 2.0
556 stars 136 forks source link

大佬，请求剪枝后map为0的问题 #71

Open yangwenwu92 opened 2 years ago

yangwenwu92 commented 2 years ago

采用的5l模型采用自己的数据集训练和稀疏训练。但是在剪枝的时候，test.py中inf_out可以得出，但进行非极大值抑制求值的时候，总是没有超过conf_thresh的值，导致output总是none，最终map计算为0。这样来说，剪枝后的模型在进行前向推理过程本身就存在问题了，这是什么原因。给人感觉就是必须特定数据集特定的5s模型才能剪了。

ZJU-lishuang commented 2 years ago

目前已在三个模型上实现了剪枝操作。 稀疏度不够吧，觉得数据集不行可以试试coco和voc的效果

yangwenwu92 commented 2 years ago

目前已在三个模型上实现了剪枝操作。 稀疏度不够吧，觉得数据集不行可以试试coco和voc的效果

那再请问一下，训练稀疏矩阵的时候，scale的参数应该要随着学习率或者说是基础的梯度参数进行调整吧，我看我梯度的scale设置过大的话，所有梯度都是几百几十的参数，还全是正数。

ZJU-lishuang commented 2 years ago

tanluren/yolov3-channel-and-layer-pruning里面有参数解释