[원딜] Gaussian Process

[changwoomon]

🙌 질문자

• 원딜 @changwoomon

---

❓ 질문 내용

안녕하세요 조교님.

수업 내용 중 Hyperparameter search에서 Gaussian Process의 과정이 이해가 되지 않아 질문드립니다.

강의 슬라이드는 다음과 같습니다.

강의 슬라이드와 아래의 그림들로부터 저희가 이해(추론)한 바로는

▼ 그림1                                                                                     ▼ 그림2

▼ 그림3

[그림1] 에서, 

- x축 : hyper parameter 값의 영역

- 점선 : 최종적으로 맞추고자 하는 objective function (= [그림3]에서의 실선, True function)

- 실선 : 각 지점(x)의 posterior mean function (= [그림3]에서의 점선, Prediction function)

- 보라색 영역: 각 지점(x)의 분산

- 실선, 보라색 영역, acquisition function은 관측값(x_t)에 대한 posterior function으로 새로운 관측을 할 때마다 바뀜

라고 생각했고, Gaussian Process의 진행 과정이

1. 실선을 점선에 맞추기 위해 아래의 과정을 반복한다.

2. 시점 t의 acquisition function의 값이 최대인 지점(x_t)를 새로운 관측값으로 정함

3. 새로운 관측값(x_t)의 값을 hyper parameter로 두고 모델을 학습하여 posterior mean, 분산, acquisition function을 계산

4. 2-3번을 반복

라고 이해했습니다.

Q1. 저희가 이해한 것이 맞나요?

Q2. hyper parameter의 참값은 없을텐데 True function은 무엇인가요?

Q3. 분산이 가장 큰 지점을 hyper parameter로 두고 학습하지 않고 acquisition function이 가장 큰 지점을 hyper parameter로 두고 학습을 하는데, 그렇다면 분산은 왜 구하는건가요?

---

📄 참고 자료

• Day 37 - (4강) 모델의 시공간 p.34, 35
• A Tutorial on Bayesian Optimization of Expensive Cost Functions, with Application to Active User Modeling and Hierarchical Reinforcement Learning

[changwoomon]

류원탁 조교님 답변

안녕하세요. 경량화 팀 조교 류원탁입니다.

주신 질문중에서 일부에 대해서 답변드릴려고 합니다.

실선을 점선에 맞추기 위해 아래의 과정을 반복한다. -> 점선을 실선에 맞추기 위한 작업이라고 생각하시면 될듯합니다.

Trun function이라는 것은 정답이라고 생각하시면 됩니다.

gaussain process에 대한 블로그글 하나를 추천드립니다.

http://krasserm.github.io/2018/03/19/gaussian-processes/

[changwoomon]

Slack - 질의응답 채널

홍원의_마스터 3일 전 variance가 큰 지점하고 acquisition function이 가리키는 지점하고 다른 이유가 뭘까요?

윤대혁_T1133 3일 전 acquisition function은 데이터로부터 가장 가능성이 높은 likelihood를 추정한 것 같고 분산은 true function의 불확실한 부분을 고려하기 위해 추정하는 아예 다른 개념이 아닌가요

홍원의_마스터 3일 전 activation function := get the point with the highest variance 로 정해주어도 아예 다른 개념이 될까요...?

윤대혁_T1133 3일 전 reference 논문을 좀 봤는데 제가 처음에 생각한거랑 많이 다르네요... acquisition function으로 variance가 큰 포인트를 잡을수도 있는데(exploration) 한편으로는 mean이 큰 포인트를 잡을수도 있고(exploitation) 그런데 trade off관계가 있어서 어느 한쪽 만을 취하면 문제가 있어서 여러가지 acquisition function을 제안해주는것 같은데요..