【submission】TensorFlow ResNet 転移学習 WeightNormalizationを追加 - Githubissues

team90s / kaggle-MoA

https://www.kaggle.com/c/lish-moa

2 stars 1 forks source link

【submission】TensorFlow ResNet 転移学習 WeightNormalizationを追加 #147

Open takapy0210 opened 3 years ago

takapy0210 commented 3 years ago

Base

https://github.com/team90s/kaggle-MoA/issues/109

Link（File）

https://www.kaggle.com/takanobu0210/tf-rn-transfer-1layerother-selcol100?scriptVersionId=47699214

手法・コメント

TnsorFlowのResNetでDenseにWeightNormalizationかけてなかったのですが、Pytorch*ResNetで良いスコアでてるやつは軒並み使っているので、それを使ったものでTransferさせたものです

Score

-	今回	元々	差分
Local logloss	0.016234	0.016248	-0.0001
LB Score	0.01857	0.01858	-0.0001

その他（何かあれば）

若干スコアは改善したけど、転移学習をさせない方がスコアは良い
- なぜ・・・
cf. https://github.com/team90s/kaggle-MoA/issues/85