Simple CLIP Got 70 Score

[lsh3163]

CLIP 의 Image Encoder에 FC만 붙여서 3 Epoch 돌려서 70이 나왔습니다. (No augmentation)

• 1 level이 일단은 3 level 보다 좋게 나왔습니다!

[lsh3163]

• CLIP 은 고정된 Weight를 사용해야 하므로 Fine-tuning 가능한 모델이 더 성능이 좋습니다.
• Imbalanced Sampler도 잘 작동합니다.
• Resolution과 배치가 클수록 좋습니다.

[lsh3163]

단일모델 성능 F1-score 비교(제출시) Efficientnet - b5 : 0.6287, oof 적용시 0.6879로 상승 eca_nfnet_l2(timm) : 0.6930, Augmentation 많이 넣으면 오히려 성능이 떨어짐. (0.6478), 단일 모델 Pseudo labeling(0.6983)

[lsh3163]

{
    "name": "Nfnet",
    "n_gpu": 1,

    "arch": {
        "type": "NfnetModel",
        "args": {}
    },
    "data_loader": {
        "type": "UstageDataLoader",
        "args":{
            "data_dir": "../input/data",
            "batch_size": 16,
            "shuffle": false,
            "validation_split": 0.2,
            "num_workers": 8
        }
    },
    "optimizer": {
        "type": "SGD",
        "args":{
            "lr": 0.1,
            "weight_decay": 1e-4,
            "momentum": 0.9
        }
    },
    "loss": "focal_loss",
    "metrics": [
        "accuracy", "top_k_acc", "f_score"
    ],
    "lr_scheduler": {
        "type": "OneCycleLR",
        "args": {
            "steps_per_epoch":720,
            "max_lr": 0.1,
            "epochs": 5
        }
    },
    "trainer": {
        "epochs": 5,

        "save_dir": "saved/",
        "save_period": 1,
        "verbosity": 2,

        "monitor": "min val_loss",
        "early_stop": 10,

        "tensorboard": true
    }
}

@larcane97