[Etc] Model 재현을 위해, Seed 고정 필요

[dbsrlskfdk]

현재

• 모델 파라미터의 Randomness가 보장이 되지 않음
• 재구현 불가능

Try

• PL에선 Seed_Everything이 있었는데, HuggingFace Trainer 이용하면서, 업슴
• 모든 종류의 Seed를 고정해줄 함수 필요

기대사항

• 모델 재구현 가능

[dbsrlskfdk]

train.py

def seed_everything(seed: int = 42):
  random.seed(seed)
  np.random.seed(seed)
  os.environ["PYTHONHASHSEED"] = str(seed)
  torch.manual_seed(seed)
  torch.cuda.manual_seed(seed)
  torch.backends.cudnn.deterministic = True
  torch.backends.cudnn.benchmark = True

~~~

def train():
  seed_everything(42)
  ~~~