bird0401 / Kaggle_Happywhale

kaggle competition
0 stars 0 forks source link

notebookの時系列順にsubmitしてエラーが起きないか確認していく #45

Closed bird0401 closed 2 years ago

bird0401 commented 2 years ago

1.

https://www.kaggle.com/code/hiromatu/happywhale-arcface-baseline-tpu?scriptVersionId=92476735

おそらく一番見られているnotebook

bird0401 commented 2 years ago

2.

1を参考にしたnotebook

https://www.kaggle.com/code/hiromatu/backfins-arcface-tpu-effnet/edit

bird0401 commented 2 years ago

3.

2.を参考にしたnotebook

https://www.kaggle.com/code/hiromatu/0-731-eff-b5-640-rotate/edit

bird0401 commented 2 years ago

4.

3を参考にしたswinのnotebook

https://www.kaggle.com/code/hiromatu/swin-tranform-submission/edit

bird0401 commented 2 years ago

1,2はエラーなしで完了した。現在は3を回し中。

bird0401 commented 2 years ago

3はswinの著者が、swinの前に書いたnotebook。これのinferenceとか他の部分補完して、save_versionした。

bird0401 commented 2 years ago

3でエラーが起きた。普通にrunして確かめてる。

bird0401 commented 2 years ago

4と3で結構コード変わる。慎重に見ていく。

bird0401 commented 2 years ago

3 回して学習まではうまくいった。EFF_NET = 5だと学習重すぎたので、EFF_NET = 0にしてやってみてる。

bird0401 commented 2 years ago

速度そんなに変わらなかった

https://zenn.dev/kleamp1e/articles/202104-efficientnet これによると10倍くらい変わるはずなんだが。

bird0401 commented 2 years ago

そのリンクだと画像サイズを変えてるけど、それをしていないのが原因か。

IMAGE_SIZE = 32 でやってみる

bird0401 commented 2 years ago

結果めちゃ早くなった。30倍くらい。

bird0401 commented 2 years ago

エラーちょくちょく起こったが最後まで実行できたので、submitする。現在save allしてる。

bird0401 commented 2 years ago

3のsave-all完了した。submitもした。解像度下げてる+effnetB0を用いているので精度はゴミ。

bird0401 commented 2 years ago

エラー一個一個対処してたらキリないので、元の実行成功したnotebookにmodelを移植する方面で進める

bird0401 commented 2 years ago

commentsでも質問に上がってる原因不明のエラー起きて止まった

bird0401 commented 2 years ago

swinはコメント上に同じ問題になってる人いたから、コメントしておいた

bird0401 commented 2 years ago

swinの質問に回答来たのでそれを元に変えてみる

When you use swin transformer with TPU, you need to specify drop_remainder=True option. dataset = dataset.batch(BATCH_SIZE, drop_remainder=True)

bird0401 commented 2 years ago

最後まで実行できたので提出してみる

bird0401 commented 2 years ago

ハイパラ元に戻したので時間かかりそう