ZhangXu0963 / NPC

The code of the paper "Negative Pre-aware for Noisy Cross-modal Matching" in AAAI 2024.
16 stars 2 forks source link

best model #11

Closed LuoXiaoBai965 closed 1 month ago

LuoXiaoBai965 commented 4 months ago

您好!打扰您了,请问我在噪声比为 0.2 的时候进行训练时, 随着epoch的增加模型反而越来越差是为什么? 过拟合了吗? 下图指标最好的是第1个epoch的时候, 然后继续训练指标反而下降, 而且降得挺多的. 捕获1 捕获2 捕获4 捕获5

ZhangXu0963 commented 1 month ago

是的,会出现过拟合的现象,因为CLIP本身是预训练过的,用NPC来fintuning会收敛的更快些,每个epoch之后都会保存模型,你可以只取epoch1的model来用。