Closed ycseong07 closed 1 year ago
현재 적용되어있는 grid search 방식으로 hyperparameter를 tuning할 경우 1) shiny app에 적용할 때 최소/최대값을 직접 지정해야 하는 문제, 2) 직접 지정한 값이 hyperparameter 값으로 적합하지 않을 때 해당 훈련이 무시되는 문제, 3) 훈련 시간이 너무 오래 걸리는 문제 가 있음.
따라서 Bayesian Optimization을 적용하려 하고,
이 방법이 random search보다 더 빠르게 validation error를 빠르게 줄임을 확인 (http://proceedings.mlr.press/v28/bergstra13.pdf)
tidymodels에서는 tune 라이브러리를 활용해 적용 가능 (https://www.tidymodels.org/learn/work/bayes-opt/)
v1.0에서 적용 완료
ycseong07
commented
1 year ago
현재 적용되어있는 grid search 방식으로 hyperparameter를 tuning할 경우 1) shiny app에 적용할 때 최소/최대값을 직접 지정해야 하는 문제, 2) 직접 지정한 값이 hyperparameter 값으로 적합하지 않을 때 해당 훈련이 무시되는 문제, 3) 훈련 시간이 너무 오래 걸리는 문제 가 있음.
따라서 Bayesian Optimization을 적용하려 하고,
이 방법이 random search보다 더 빠르게 validation error를 빠르게 줄임을 확인 (http://proceedings.mlr.press/v28/bergstra13.pdf)
tidymodels에서는 tune 라이브러리를 활용해 적용 가능 (https://www.tidymodels.org/learn/work/bayes-opt/)