Feature/augmentation

[hyoeun98]

변경점

dataset.py

• CustomAugmentation, TestDataset transform 변경 (마음대로 바꿔서 테스트 해보시면 됩니다.)

  inference.py

• num_workers=0 (이따금씩 error가 나서 변경, inference 시간에 유의미한 차이는 없는 것 같음)
• --resize 변경, train.py의 --resize와 같은 형식, default = 128 96

  loss.py

• F1Loss, LabelSmoothingLoss의 num_classes = 18

  train.py

• code 정제
• k fold는 아직 미완성이므로 사용 자제 (default False)
• train_batch_size, valid_batch_size default 64
• config.json에 early stop된 epoch, 적용한 transform writing

---

best model config.json

{"seed": 42, 
"epochs": 20, 
"dataset": "MaskSplitByProfileDataset", 
"augmentation": "CustomAugmentation", 
"resize": [256, 192], 
"batch_size": 64,
 "valid_batch_size": 64,
 "model": "densenet",
 "optimizer": "AdamW",
 "lr": 9e-05,
 "val_ratio": 0.2,
 "criterion": "focal",
 "lr_decay_step": 1,
 "log_interval": 20, 
"name": "exp", 
"weight_decay": 0.0005,
 "pretrained": "True", 
"early_stop": 1, 
"data_dir": "/opt/ml/input/data/train/images",
 "model_dir": "./model",
 "LR_scheduler": "StepLR",
 "precision": "True",
 "KfoldCV": "False", 
"early stop epoch": 2,
 "transform": "Compose(\n    Resize(size=[256, 192], interpolation=PIL.Image.BILINEAR)\n    RandomHorizontalFlip(p=0.5)\n    ToTensor()\n    Normalize(mean=(0.548, 0.504, 0.479), std=(0.237, 0.247, 0.246))\n)"}

[hyoeun98]

변경점

def get_scheduler(optimizer):
    ...
    return scheduler

def get_dataset():
    ...
    return dataset

def get_transform(dataset):
    ...
    return transform

def get_loss_optim(model):
    ...
    return criterion, optimizer

def get_logger(save_dir)
    ...
    return logger

• 코드 기능에 변형은없이 간결하게 만들어 보았습니다

  def train(data_dir, model_dir, args):
  # -- settings
  use_cuda = torch.cuda.is_available()
  device = torch.device("cuda" if use_cuda else "cpu")
  scaler = torch.cuda.amp.GradScaler()
  
  print("K fold CV :", args.KfoldCV)
  seed_everything(args.seed)
  
  save_dir = increment_path(os.path.join(model_dir, args.name)) # ./model/exp
  
  model = get_model(device)
  dataset = get_dataset()
  transform = get_transform(dataset)
  dataset.set_transform(transform) # dataset에 transform 할당
  criterion, optimizer = get_loss_optim(model)
  scheduler = get_scheduler(optimizer)
  logger = get_logger(save_dir)
  val_ratio = args.val_ratio
  
  best_val_acc = 0
  best_val_loss = np.inf # 무한
  best_val_f1 = 0
  
  early_stopping = EarlyStopping(patience = args.early_stop, verbose = True) # early stopping
  
  # train start
  ...