search

Gumpest / YOLOv5-Multibackbone-Compression

YOLOv5 Series Multi-backbone(TPH-YOLOv5, Ghostnet, ShuffleNetv2, Mobilenetv3Small, EfficientNetLite, PP-LCNet, SwinTransformer YOLO), Module(CBAM, DCN), Pruning (EagleEye, Network Slimming), Quantization (MQBench) and Deployment (TensorRT, ncnn) Compression Tool Box.
989 stars 201 forks source link

关于使用SwinTransformer的GFLOPs疑问 #80

Open LUO77123 opened 2 years ago

LUO77123 commented 2 years ago

大佬您好，我自己根据SwinTransformer源码将YOLOV5的6.1版本的backbone全部按SwinTransformer结构修改，遇到的半精度训练报错问题看您的train文件添加了'--nohalf'参数后成功了，但是我的GFLOPs很大，光depth_multiple: 0.33，width_multiple: 0.75的yolov5swin_tiny就409.9GFLOPs，而depth_multiple: 1，width_multiple:1的yolov5swin_base达到离谱的1307GFLOPs，就算导入并冻结预训练权重也训练很慢。大佬是否遇到GFLOPs过大的问题，过大是否需要剪枝（还没接触过剪枝，请大佬赐教。感谢

lost0fate commented 1 year ago

您好，我想请问一下你后面解决这个问题了嘛？我是在最后的3个探测头上面，把C3TR换为了C3STR，结果增加了200多GFLOPs。后面测试只在第一个探测头（P3）上更改的话，仅增加个位数的GFLOPs，但如果只给最后一个探测头（P5）更换，则会陡增。想请教下您最后是怎么解决这个问题的或是告知下这个问题产生的原因