咨询版面分析picodet_lcnet_x1_0_layout.yml配置文件中属性含义

PaddlePaddle / PaddleDetection

Object Detection toolkit based on PaddlePaddle. It supports object detection, instance segmentation, multiple object tracking and real-time multi-person keypoint detection.

Apache License 2.0

12.83k stars 2.89k forks source link

咨询版面分析picodet_lcnet_x1_0_layout.yml配置文件中属性含义 #9174

Closed BotAndyGao closed 1 month ago

BotAndyGao commented 1 month ago

问题确认 Search before asking

[X] 我已经搜索过问题，但是没有找到解答。I have searched the question and found no related answer.

请提出你的问题 Please ask your question

cycle_epoch: 10 这个属性的具体含义是什么，它应该不是PyTorch、TensorFlow等主流深度学习框架中的标准配置参数，网络上也无法查到它的具体含义，请解释一下它的具体含义，字面意思能理解是10轮循环一下，但是在这个循环中要做什么？希望老师们给个官方释义。

zhangyubo0722 commented 1 month ago

这个参数表示每隔多少个epoch重置ema_param和step。默认值是-1，表示不进行重置。用于管理训练过程中指数移动平均（EMA）参数的重置频率。

BotAndyGao commented 1 month ago

EMA的参数定期重置好呢？还是不重置好？

zhangyubo0722 commented 1 month ago

这需要看具体的数据，如果数据分布在训练期间发生变化，重置EMA可能有助于模型适应新的数据分布，并且可以防止EMA对早期数据的过拟合。而如果数据分布没有太大变化的话，EMA提供了参数更新的平滑效果，有助于稳定训练过程而且可以更好的收敛

BotAndyGao commented 1 month ago

这需要看具体的数据，如果数据分布在训练期间发生变化，重置EMA可能有助于模型适应新的数据分布，并且可以防止EMA对早期数据的过拟合。而如果数据分布没有太大变化的话，EMA提供了参数更新的平滑效果，有助于稳定训练过程而且可以更好的收敛

我的理解是可以配置10轮后重置，这样的效果会比较好是吧？

zhangyubo0722 commented 1 month ago

一般是这样的

BotAndyGao commented 1 month ago

谢谢