42AI-Study / AIML

0 stars 0 forks source link

CHAPTER 2. Fundamentals of Machine Learning #2

Open lscitl opened 1 year ago

lscitl commented 1 year ago

Rule Based Machine Learning: 구체화 및 일반화를 통해 적절한 조건을 찾아내는 방법. outlier에 대한 대처가 어려움.

Decision Tree: Entropy를 통해 Information Gain값을 구하고 해당 값이 가장 큰 것을 Root로 트리 형태로 모델을 구성. 트리의 크기가 무조건 커진다고 테스트 데이터에 대한 정확도가 높아지지는 않음.(Over fitting)

Linear Regression: mean square error(MSE)가 최소가 되는 theta값을 구하는 것으로, 데이터 분포에서 에러가 가장 작은 직선을 나타냄.

*Entropy: 엔트로피가 높을수록 불확정성이 높음.

Arat5724 commented 1 year ago