ML개념에 대해 정리하자

[gon-park]

멤버 별로 각각 machine learning 알고리즘을 이해하고 정리해본다.

• 각자 Comment로 적어주세연 @29-75/29-75

• 컨센서르를 맞추고 #3 으로 공통화해서 정리해봅시다.

• 추가적으로 running car를 반영하기 위한 알고리즘까지 정해봅시다.

[gon-park]

Machine learning by @gon-park

Machine Learning: Field of study that gives computers the ability to learn without being explicitly programmed. (by Arthur Lee Samuel)

Machine learning

지도 학습(Supervised Learning)

• Input & output을 함께 학습

• 학습 모델

  • SVM(Support Vector Machine)

    • 분산 및 분류되어 있는 분포에서 margin이 최대가 되는 분류경계면을 찾는 방법
    • 참고
    • 

  • DT(Decision Tree)

    • 데이터를 분석하여 이들 사이에 존재하는 패턴을 Learning하고, 규칙화하여 Tree 형태로 구성하는 방법
    • 새로운 문제가 왔을 때 DT에 도입하여 Leaf 에 도달 함으로서, 답안을 도출함
    • 참고
    • 

  • Regression Analysis

    • 하나의 종속변수와 (하나/여러) 독립변수 사이의 관계를 규명하는 방법
      • 하나의 독립변수 - 단순회귀분석(simple regression analysis)
      • 여러 독립변수 - 다중회귀분석(multiple regression analysis)
    • 실제값(데이터)을 대표하는 예측값을 도출한다.
      • 오차항(예측값과 실제값의 오차)은 각 실제값 별 정규분포를 따라야 한다.
      • 오차항의 등분산성
      • 오차항의 독립성
    • 참고1, 참고2
    • 

비지도 학습(Unsupervised Learning)

• Input 만 학습

• 학습모델

  • 군집화(Clustering)

    • **Classification 을 통해 분산되어 있는 데이터를 Clustering하는 방법**

    • Classification을 위한 방법은 다양하며 이를 위한 기준을 Assumption이라고 함

    • 이러한 Assumption은 각각의 Clustering 정의를 위한 알고리즘 마다 다를 수 있으며 여러 알고리즘을 다양하게 접합시켜 사용 할 수 있음

    • K-means

      • 거리 기반의 기준을 통해 푸는 Cluster 알고리즘

    • GMM(Gaussian Mixture Model)

      • 확률과 확률 분포를 기반으로 푸는 Cluster 알고리즘
      • 
      • 

    • 참고

  • 압축(Compression)
    • -

강화 학습(Reinforcement Learning)

딥 러닝(Deep Learning)

[sungwon-ahn]

Machine learning by @sungwon-ahn

Machine Learning

머신러닝이란 데이터에 기반하여 결정을 할수있게 하는것. machine learning 은 unsupervised learning , supervised learning 로 나눌수있음.

---

Machine Learning 학습 모델

• Unsupervised learning
• 데이터 만을 입력하며 목표치는 존재 하지 않는다.
• 이후 학습된 데이터를 통해 분류하는 등 데이터 자체를 구분 짓거나, 압축 하는데 사용한다.
• Supervised learning
• 데이터와 목표치를 주어지고 이와 동일한 목표치를 찾아 내게 한다.
• 즉, input의 데이터를 기반으로 최대한 동일한 결과값을 찾아 낼수있게한다.
• Anomaly Detection
• Anomaly Detection은 학습 데이터 셋에 비정상적인 sample 이 존재 하는지 찾아낸다.
• 각 sample의 label이 존재하는지, 비정상적인 sample의 성격이 정상 sample과 어떻게 다른지, 정상 sample의 class가 단일 class 인지 Multi-class 인지 등에 따라 여러 방식을 사용한다.
• 
  

• 
  

[mbj0528]

딥러닝

• 트레이닝 셋을 가지고 학습을 시키는 방법
• 학습을 새로운 데이터에 적용
• Apple face id

강화학습

• 최고의 보상을 위한 선택
• 동적으로 학습하며 행동을 조정

• 알파고

  강화학습

• 가장 효율적인 action의 순서를 찾는 트레이닝 방법
• 필요한 요소
  • contextUnderstanding : 현재상황 인지
  • action : 개별 상황에서 내가 취할 수 있는 action set
  • reward : 포상의 모델링 필요
• 자동차 자율주행을 실제로 한다면?
  • contextUnderstanding : 자기 주변 차선과의 거리 ????
  • action : 왼쪽, 오른쪽, 위, 아래 ( 2D 기준 )
  • reward : 선과 얼마나 가까운지에 따라 포상등급을 나눠서 점수 부여
  • 끝나는 지점을 어떻게 인식할 것인가???
  • contextUnderstanding이 현재 차선과의 거리면 start지점을 인지할 수 없다.

[jeonhyunji]

Machine learning by @jeonhyunji

• 이해되면 정리해보자

Machine learning 기계학습

• 정의 - Arthru Samuel (1959)

  Machine Learning is a field of study that gives computers the ability to learn without being explicitly programmed 아서 사무엘: 컴퓨터가 명시적으로 프로그램되지 않고도 학습할 수 있도록 하는 연구 분야

• 정의 - Tom Mitchell (1988)

  A computer program is said to learn from experience E with respect to some task T and some performance measure P, if its performance on t, as measured by P, improves with experience E 톰 미첼: 컴퓨터가 어떤 작업(T)를 하는데 있어서 경험(E)로부터 학습하여 성능에 대한 측정(P)를 향상시키는 학문
  

• 머신러닝 종류

  • 지도학습
    • 입력값과 결과값을 이용한 학습
  • 비지도학습
    • 입력값만을 이용한 학습
  • 강화학습
    • 결과값 대신 보상(reward)이 주어짐
      

• 강화학습

  • 가치 함수 (누적 보상)

• MDP (Markov Decision Process, 마르코프 결정 과정)

  • 강화학습의 중요한 가정 중 하나로, 환경이 Markov Property를 가진다는 점
  • Markov Property 란?
    • 어떤 시간에 특정 state에 도달하면 그 이전에 어떤 state를 거쳐왔든 다음 state로 갈 확률은 항상 같다.
  • MP (Markov Process, Markov Chain)
  • MRP (Markov Reward Process)
    • MP에 reward 개념을 추가한것, MP에는 state에서 다른 state로 가는게 얼마나 가치있냐는 포함하고 있지 않음,
  • MDP (Markov Decision Process)
    • MRP에 action을 추가한것

• TODO: MDP 이해하기

• • 강화학습이 포함하는 개념
  • Optimization: 최적화
  • Delayed consequences: 지연된 보상
  • Exploration: 탐험
  • Generalization: 일반화

• 지도/비지도학습과 차이점

  • 포함하는 개념: Optimization, Generalization
  • 포함하지 않는 개념: Delayed Consequences, Exploration
  • 지도/비지도학습은 학습할 데이터셋이 주어지기 때문에 Exploration은 할 일이 없다
  • 지도/비지도학습은 한번 결정을 하면 그 출력값이 맞았는지 틀렸는지 알 수 있기 때문에 Delayed consequences 개념을 포함하지 않는다.