请教一下，为什么数据量少的数据集比如采样率设置为0.1

shenyunhang / APE

[CVPR 2024] Aligning and Prompting Everything All at Once for Universal Visual Perception

https://arxiv.org/abs/2312.02153

Apache License 2.0

459 stars 28 forks source link

Open Baboom-l opened 1 month ago

Baboom-l commented 1 month ago

RefCOCO这些小数据集设置为0.1，而o365这种大型的采样率为1，这样不会导致数据量小的数据上训练不充分吗？还是说这个采样率不是根据数据集大小来的

shenyunhang commented 1 month ago

主要是不希望在小数据集上过拟合，希望模型训练过的样本越多越好，所以小数据集的采样率要低。其实虽然小数据集采样率低，但是迭代步数长，模型还是看了这些数据集好几遍。

Baboom-l commented 1 month ago

这个采样率是每次迭代的采样概率吗？我以为是对整个数据集的采样