PaddlePaddle / PaddleDetection

Object Detection toolkit based on PaddlePaddle. It supports object detection, instance segmentation, multiple object tracking and real-time multi-person keypoint detection.
Apache License 2.0
12.86k stars 2.9k forks source link

[Other General Issues]加了ssld的配置文件的改变在哪里? #4840

Open zmdcs opened 2 years ago

zmdcs commented 2 years ago

自带的配置文件,比如YOLOv3_mobilenetv3_large_voc.yml和YOLOv3_mobilenetv3_ssld_large_voc.yml.除了预训练权重不一样,其他的参数都是一样的呀,难道知识蒸馏的实现就是通过预训练权重吗?

wangxinxin08 commented 2 years ago

这里的知识蒸馏是指使用半监督蒸馏技术在ImageNet上训练的分类模型,这些分类模型作为检测的backbone

zmdcs commented 2 years ago

1.主干网络不是mobilenetv3吗?如果分类模型作为主干网络,那mobilenetv3干嘛了? 2.所以半监督蒸馏技术对训练自己的数据没作用吗?

------------------ 原始邮件 ------------------ 发件人: @.>; 发送时间: 2021年12月7日(星期二) 下午5:05 收件人: @.>; 抄送: @.>; @.>; 主题: Re: [PaddlePaddle/PaddleDetection] [Other General Issues]加了ssld的配置文件的改变在哪里? (Issue #4840)

这里的知识蒸馏是指使用半监督蒸馏技术在ImageNet上训练的分类模型,这些分类模型作为检测的backbone

— You are receiving this because you authored the thread. Reply to this email directly, view it on GitHub, or unsubscribe. Triage notifications on the go with GitHub Mobile for iOS or Android.

wangxinxin08 commented 2 years ago
  1. 主干网络是mobilenetv3,预训练权重是指MobileNetv3在ImageNet上的预训练权重,mobilenetv3_ssld是指在mobilenetv3(其他分类模型也可)使用半监督蒸馏技术(ssld)在ImageNet上的预训练分类模型
  2. 半监督蒸馏技术训练的backbone相比于不使用半监督蒸馏技术训练的backbone能够加速检测模型的收敛,同时也能提升检测模型的性能,对于你的数据也有作用
  3. 需要区分此处的半监督蒸馏技术不是作用于检测模型上的
zmdcs commented 2 years ago

半监督蒸馏技术就是只作用于训练模型是吧,提升模型性能就是能提高mAP?我的结果大概是这么告诉我的

------------------ 原始邮件 ------------------ 发件人: @.>; 发送时间: 2021年12月7日(星期二) 下午5:33 收件人: @.>; 抄送: @.>; @.>; 主题: Re: [PaddlePaddle/PaddleDetection] [Other General Issues]加了ssld的配置文件的改变在哪里? (Issue #4840)

主干网络是mobilenetv3,预训练权重是指MobileNetv3在ImageNet上的预训练权重,mobilenetv3_ssld是指在mobilenetv3(其他分类模型也可)使用半监督蒸馏技术(ssld)在ImageNet上的预训练分类模型

半监督蒸馏技术训练的backbone相比于不使用半监督蒸馏技术训练的backbone能够加速检测模型的收敛,同时也能提升检测模型的性能,对于你的数据也有作用

需要区分此处的半监督蒸馏技术不是作用于检测模型上的

— You are receiving this because you authored the thread. Reply to this email directly, view it on GitHub, or unsubscribe. Triage notifications on the go with GitHub Mobile for iOS or Android.