Open countytown opened 2 years ago
请问一下作者学习率的调整和batch_size有没有关系?因为我发现设置不同的batch_size,GLOBAL_STEPS总数是变化的,但代码里面把lr调整步数固定了,这样会不会有问题?我是不是要根据自己的batch_size改lr_schedule?
@countytown 是有关系的,可以参考mmdetction中batch_size和lr的调整原则 一般batch_size调低,lr需要相应降低的。
请问一下作者学习率的调整和batch_size有没有关系?因为我发现设置不同的batch_size,GLOBAL_STEPS总数是变化的,但代码里面把lr调整步数固定了,这样会不会有问题?我是不是要根据自己的batch_size改lr_schedule?