vig关于train.py模版

huawei-noah / Efficient-AI-Backbones

Efficient AI Backbones including GhostNet, TNT and MLP, developed by Huawei Noah's Ark Lab.

4.07k stars 708 forks source link

Open Jasookii opened 1 year ago

Jasookii commented 1 year ago

中间这条的测试结果的Loss为什么这么大呀

Jasookii commented 1 year ago

并且有时偶尔会出现nan的情况，我应该怎么办呢

iamhankai commented 1 year ago

这是哪个模型

Jasookii commented 1 year ago

我将VIG进行了一定的修改，想问下上述情况是哪里出了问题？

iamhankai commented 1 year ago

出现nan就代表模型已经出现问题了，检查一下模型weight是不是过大或者过小了

Jasookii commented 1 year ago

hankai大神你好呀，我设置batch_size=128，我发现测试时，最后一个batch的数据量远小于128，并且loss非常大，这正常吗