关于不同层网络使用不同学习率的问题

lyuwenyu / RT-DETR

[CVPR 2024] Official RT-DETR (RTDETR paddle pytorch), Real-Time DEtection TRansformer, DETRs Beat YOLOs on Real-time Object Detection. 🔥 🔥 🔥

Apache License 2.0

2.31k stars 258 forks source link

Open xiaoming-master opened 5 months ago

xiaoming-master commented 5 months ago

我是用RT-DETR做了一个OCR的模型，模型中用到了编码器部分的预训练权重，但是我看了所有配置文件都没有提及如何为不同层的网络设置不同的学习率，我的想法是想给编码器部分设置一个较小的学习率，不知道是否支持？或者可以通过优化器来进行设置？

xiaoming-master commented 5 months ago

我使用的是paddlepaddle版本