Closed dongseoklee1541 closed 2 years ago
๊ทธ๋ฐ ์ ์ ๋ฏธ๋ฃจ์ด๋ณด์๋, hyper parameter tuning ์์๋ ๋ถ๋ช ๋ค๋ฅธ parameter๋ก ๋ค๋ฅธ ์คํ์ด ์งํ๋์ด์ผ ์ ์์ธ๋ฐ, ์ง๊ธ ๋ฌธ์ ๊ฐ ๋๋ ๋ถ๋ถ์ ๋ค๋ฅธ parameter์์ valid auc best score๊ฐ ๋งค๋ฒ ๊ฐ์ ๊ฐ์ ๊ธฐ๋กํ๋๊ฒ ์๋๊ฐ์???
ํ์ธ์ ํด๋ณด๋
auc, acc = model_predict(args, model, X_valid, y_valid)
์ฝ๋์์ auc,acc ์ ๊ฐ๋ค์ด ํ๊ฐ๋ง ์ฐํ๋๋ค.
iteration ๋งํผ ํ์๊ฐ ์ฐํ์ผ ํ๋๋ฐ ๊ทธ๋ ์ง ์์ต๋๋ค
์ง๊ธ wandb ์ค์ ์์ issue์ ์ฃผ๋ ์์ธ์ด iteration ๋ง๋ค ๋ค๋ฅธ valid auc๊ฐ ์์ฐํ๋๊ฒ ์๋๋ผ, ๋ค๋ฅธ hyper parameter ์์ (์์ ๋ค๋ฅธ ์คํ) ๊ฐ์ auc ๋ฅผ ๊ฐ์ง๋ค๋ ๊ฒ ์๋๊ฐ์ฉ?
์ง๊ธ wandb ์ค์ ์์ issue์ ์ฃผ๋ ์์ธ์ด iteration ๋ง๋ค ๋ค๋ฅธ valid auc๊ฐ ์์ฐํ๋๊ฒ ์๋๋ผ, ๋ค๋ฅธ hyper parameter ์์ (์์ ๋ค๋ฅธ ์คํ) ๊ฐ์ auc ๋ฅผ ๊ฐ์ง๋ค๋ ๊ฒ ์๋๊ฐ์ฉ?
๋ง์ต๋๋ค!
์ง๊ธ wandb ์ค์ ์์ issue์ ์ฃผ๋ ์์ธ์ด iteration ๋ง๋ค ๋ค๋ฅธ valid auc๊ฐ ์์ฐํ๋๊ฒ ์๋๋ผ, ๋ค๋ฅธ hyper parameter ์์ (์์ ๋ค๋ฅธ ์คํ) ๊ฐ์ auc ๋ฅผ ๊ฐ์ง๋ค๋ ๊ฒ ์๋๊ฐ์ฉ?
๋ค ๋ง๋๋ฐ ํ์ธํด๋ณด๋ ๋ชจ๋ ๋ชจ๋ธ์ด iteration 129์์ ๋๋๊ณ , ๋ง์ง๋ง๊ฐ๋ง ์ฐํ๊ณ ์์ด์์! ๊ทธ๋์ ์ฐ์ ํ์ต๊ณผ์ ์ ํธ๋ ํน์ ํด๋ด์ผ ํ์ง ์์๊น ์ถ์ด์ ์ด๊ฒ๋ถํฐ ์์ ํด๋ณผ๋ ค๊ณ ํฉ๋๋ค!
ํด๊ฒฐ๋์ด์ ์ด์๋ฅผ ์ข ๋ฃํฉ๋๋ค.
๐ก Issue
wandb์ ํ์ต์ valid auc, acc๊ฐ best๊ฐ๋ง ์ฐํ๋ ๊ฑธ๋ก ํ์ ํ์ต๋๋ค.
train valid ๋ชจ๋ ํ์ต๊ณผ์ ์ ํธ๋ํน ํ ์ ์๊ฒ ์ฝ๋๋ฅผ ์์ ํ ์์ ์ ๋๋ค.
๐ TODO
๐ Reference
14
18
lightgbm docs