关于训练不同batch size配置的问题

lyuwenyu / RT-DETR

[CVPR 2024] Official RT-DETR (RTDETR paddle pytorch), Real-Time DEtection TRansformer, DETRs Beat YOLOs on Real-time Object Detection. 🔥 🔥 🔥

Apache License 2.0

2.31k stars 258 forks source link

Open Peterande opened 5 months ago

Peterande commented 5 months ago

感谢您卓越的工作，请问如果想在不同batchsize下训练，取得一样的收敛速度，具体需要修改optimizer的哪些配置呢？我在8卡bs4或者4卡bs8的时候收敛速度相较于原配置慢很多。

lyuwenyu commented 5 months ago

可以试一下lr和bs一起调，总bs和lr成线性关系

Peterande commented 5 months ago

感谢解答，我来尝试下～

Peterande commented 5 months ago

请问训练全过程lr不变是吗，milestone设置的是1000

lyuwenyu commented 5 months ago

默认不变