search

Toma0916 / GlobalWheatDetection

3 stars 0 forks source link

[WIP]これで無理ならしんどい #164

Closed Toma0916 closed 1 year ago

Toma0916 commented 3 years ago

いまテスト回してるけど

https://www.kaggle.com/shonenkov/training-efficientdet

とできる範囲で同じにしたつもり。 これで無理ならぴえんって感じ。

weight decay周りとcrop周りが特に大きな点。

Toma0916 commented 3 years ago

experiment/toma_effdet_2/2/config.json

これ基本の設定

kminoda commented 3 years ago

lineで行ってたのこれのことですか

Toma0916 commented 3 years ago

そうです

kminoda commented 3 years ago

おーけー

Toma0916 commented 3 years ago

もしかしたら後処理のパラメタ微妙かもだけどあしからず

kminoda commented 3 years ago

駒場のGPU森けんが研究でぶん回しているのあんま邪魔したくないのでとりあえず1個フル活用で行きます 今のkernelの学習が終わったら提出してその結果見ながら学習してみるわ

Toma0916 commented 3 years ago

@kminoda

新しく足してる実験だけ張っておきます

https://github.com/Toma0916/GlobalWheatDetection/tree/exp_new_mosaic/experiment/toma_effdet_3

kminoda commented 3 years ago

今のところどれが一番筋良さそうです？（適当にそこから少し変えて実験してみます）

Toma0916 commented 3 years ago

ほぼ差はないけどmosaic_modifiedかな

kminoda commented 3 years ago

つまり今のところcutmix<mosaicということ？？

Toma0916 commented 3 years ago

ほぼ差はないけどそう

kminoda commented 3 years ago

てか今更だけど我々のcutmixの実装が間違っている説、結構ありそうでは？ （あるいは間違っているまではいかなくてもkernelの実装とは違う説）

Toma0916 commented 3 years ago

cutする部分の作り方とかは違ってますね（気付いてた

kminoda commented 3 years ago

cutmix vs mosaicは我々のpipelineからだとあまり違いを議論できなさそうなのでエイヤでcutmixにするとして optimizer/schedulerとか今のところどれが良さげでした？

Toma0916 commented 3 years ago

@kminoda

正直それはよく分からんない

adamWとplateuは全体的にまぁいい気がする。 ただ、収束遅くても上を狙うならsgd系+cosineがいいのではって気持ちになってます。

Toma0916 commented 3 years ago

@kminoda

kminoda commented 3 years ago

mergeしたいという話ですか？