Model기반 Black-box 최적화 알고리즘이 뭔지/어떻게 만드는지

[kyungheee]

What?

• 모델 기반 최적화(Model-Based Optimization) 란, 어떤 시스템을 잘 이해하는 모델을 만들고 이 모델을 이용해 그 시스템의 최적의 상태를 찾는 방법
  • 반도체 제조 공정에서 최적의 제조 조건(온도, 압력 등)을 찾고 싶다.
  • 하지만 매번 실험을 하면서 최적의 조건을 찾는건 비용이 많이 든다.
  • 그래서 과거의 데이터를 이용해 제조 공정을 잘 예측하는 모델을 만들고, 이 모델을 활용해서 최적의 조건을 찾는 것

• 오프라인 모델 기반 최적화(Offline Model-Based Optimization) 란, 새로운 데이터를 수집하지 않고 이미 있는 과거 데이터로부터 학습한 모델을 사용해 최적의 파라미터를 찾는 방법
  • 문제가 될 수 있는 것 : 모델이 기존 데이터로 학습했기 때문에, 기존 데이터 범위를 벗어나는 조건에서는 정확하니 않을 수 있음
  • 기존 데이터 범위와 최적화된 파라미터 사이에서 '균형' 을 찾는 것이 중요
    • How?
      1. 모델의 불확실성을 측정하자 : 기존 데이터 범위 밖에선 예측이 얼마나 불확실한지를 평가 (Bayesian Optimization으로 모델이 특정 파라미터에 대해 얼마나 신뢰할 수 있는지 불확실성 계산 가능)
      2. 제약 조건 설정 : 파라미터 값이 기존 데이터 범위를 크게 벗어나지 않도록 bound(constraints)를 둔다.
      3. exploration strategy 조정 : genetic 알고리즘, evolutionary 알고리즘을 사용할때, mutation이나 crossover의 범위를 제한 할 수 있음
      4. trust region approach : 안전한 범위 내에서 조금씩 탐색하면서 점진적으로 최적화를 수행하는 방법
      5. data augmentation : 기존 데이터에서 파생된 유사한 데이터를 생성해 모델을 학습시키면, 모델이 새로운 파라미터에 대해 더 잘 대응할 수 있음

How?

어떤 프로세스로 'black-box optimization' 알고리즘을 만들지

1. data preprocessing (@rhycha 사실 다음주까지 할건 여기까지.. 큰 그림을 세우고 싶었음 ㅋ_ㅋ)
2. model selection and training
   • AutoML
   • DNN ...? (@rhycha 데이터 수는 충분해서 적합하나... 이게 핵심이 아니라서...굳이 모델을 만들어야 할까)
3. optimization application
   • uncertainty quantification >> 관련 reference 찾고 인사이트 얻기 (@rhycha optimization 알고리즘 만들 때, 이거에 집중?해서 만들어보는거 어떤지, 위 2-5번 중에서 하고 싶은게 있다면 어떤건지 알려주기)
4. results evaluation
5. iteration and refinement