[강의] 2강 - Research Directions and Resources

[41ow1ives]

@kimeunh3 @Jeong-Junhwan

[Jeong-Junhwan]

1. Interesting Research Directions

• 이제는 자체로 좋은 모델은 아니다. 기본이 될 뿐

1.1 MF

• 잘 알고 있는 방법
• 내적 후 bias 고려해주면 됨
• explicit, implicit 모두 잘 사용 가능, 요새는 implicit이 대세
• Implicit feedback을 잘 다루려면 confidence라는 개념을 잘 고려해야함 ( 우리가 두번째로 읽었던 논문에 나옴)

1.2 BPR (Bayesian Personalized Ranking)

• pair-wise 방법론 제시
• missing value를 0으로 처리하는 문제를 해결
• 각각의 값에 대한 추론이 아니라 두 값의 차이를 비교함으로써 ranking에 좀 더 적당한 방법
• 근데 어차피 차이를 비교하려면 각각의 값을 계산해주긴 해야함
• BPR의 objective와 AUC는 optimize 방향이 같다.

1.3 FPMC (Factorizing Personalized Markov Chains)

• MF와 Markov chain이 결합된 모델
  • Markov chain은 각 다음 스텝은 바로 이전 스텝에만 영향을 받는다는 가정
• 사용자 수 만큼의 Markov chain을 가정해서 개인화 추천이 가능하도록 함
• MF는 시간에 대한 고려를 하지 않아서 전반적인 추천은 잘 하지만 갑자기 취향이 변한것을 반영 못함
• MC는 바로 이전에 대한 고려만 해서 갑자기 변한 취향을 잘 고려함
• $f(u,i)$에서 $f(i|u,j)$로 문제가 이동
  • $u, i, j$에 대해서 $(u, i), (u, j), (i, j)$ 3개의 내적의 합으로 생각할 수 있다.
  • 근데 $(u, j)$는 좀 이상함. 사용자와 이전 아이템의 interaction은 이전 아이템에 대해 고려할 때 이미 했음
  • BPR을 사용하면 두개의 차이를 뺌으로서 어차피 저 항이 날아가게 된다.
  • 결과적으로는 $(u, i), (i, j)$ 두개만 고려하면 됨

1.4 PRME (Personalized Ranking Metric Embedding)

• 내적이 아니라 dinstance를 사용해서 학습을 진행하는 방법
• inner product는 방향만 고려하니까 군집화가 잘 안됨
• distance를 활용하면 이러한 문제를 해결할 수 있다.

2. Evaluating Recommender Systems

Accuracy 측정에 대한 이야기

2.1 Evaluation of Rating Prediction

• explicit feedback 문제에서 RMSE 같은 방법을 사용해서 학습을 진행
• 학습하려는 loss(RMSE)랑 metric이 동일해서 쉽다

2.2 Evaluation of Top-K Ranking

• Implicit feedback 문제에서 사용하는 방법
• 학습은 다른 방법으로 알아서 하고, 학습 결과는 Recall, NDCG 같은 다른 metric을 사용해서 평가한다.
  • Recall: 내가 추천한 아이템 중 사용자가 실제로 구매한 것 / 사용자가 구매한 아이템 수
  • Precision: 내가 추천한 아이템 중 사용자가 실제로 구매한 것 / 내가 추천한 아이템 수
  • 예시 코드가 29p에 나와있다.
  • 다른 방법들도 있음

3. Resources

참고할 수 있는 다양한 resource 들

3.1 Releated Academic Confences

• 다른 AI 분야랑 비슷하게 학회가 힘이 세다.
• RecSys, KDD, WW 등등등... 주요 학회 이름이 궁금하면 33p
• 추천 고유 학회 뿐 아니라 AI/ML, Web, Data Mining 쪽으로 출간되는 경우도 많다
• 분야 별 인용수 이런게 다 달라서 너무 믿으면 안되고, 실제로 어떤 논문이 나오고 있는지 확인할 수 있으면 좋다

3.2 Python Libraries

• 다양한 library가 많다.

3.3 Datasets

• 공개된 dataset도 꽤 있다. 37p를 참고

[kimeunh3]

1. Interesting Research Directions

1.1 Matrix Factorization Revisited

• User와 Item 사이의 저차원 표현 학습
  • 명시적인 feature 사용 없이 잠재 표현을 학습하기 때문에 latent factor model이라고도 함
• Explicit(rating 예측), Implicit(ranking 예측) 모두 사용 가능
  • Implicit Feedback → confidence 값을 부여
    • confidence 값을 weight로 가지는 Weighted Regularized MF (WRMF) or Weighted MF를 objective function으로 가짐

1.2 Bayesian Personalized Ranking

• 두 아이템 간의 선호도 비교를 통한 pairwise-ranking 문제
• 기존 방식은 missing value를 모두 negative instance로 취급했지만 그러지 않고 positive instance가 있는 아이템들은 그렇지 않은 아이템들보다는 선호도가 높다라는 접근을 통해 ranking 예측
• 논문에서는 BPR objective function을 최적화하는 것은 AUC를 optimize 하는 것과 이론상으로 동일하다고 주장
  • AUC의 Heavyside function($\delta$)을 미분 가능한 $\ln \sigma$로 대체

1.3 Factorizing Personalized Markov Chains

• MF와 Markov Chain을 결합한 모델
  • User와 Item 간의 관계뿐만 아니라 바로 이전 Item간의 관계를 함께 모델링
• MC기반 추천 → User 바로 직전 이력과 관련하여 Item 추천
• MF기반 추천 → User의 전체적인 이력을 고려하여 취향에 맞는 Item 추천
• $f(i\mid u, j)$, 유저 u가 이전 아이템 j를 고려했을 때 아이템 i를 좋아할 확률
  • $f(i\mid u, j) = f(i\mid u) + f(i\mid j) + f(u, j)$일 때 BPR-like framework$\sigma \left (f(i\mid u, j) - f(i^-\mid u,j) \right )$에 대입하면 $f(u, j)$부분이 cancelled out 된다.
• FMC → FPMC에서 user factor 제외하여 이전 아이템과의 연관성만 계산

1.4 Personalized Ranking Metric Embedding

• inner product가 아닌 다른 distance metric(e.g., Euclidean distance)을 사용
  • inner product는 각도상의 거리가 좁을수록 score 상승
  • nearest neighbors는 거리적으로 가까울 수록 score 상승

2. Evaluating Recommender Systems

2.1 Evaluation of Rating Prediction

• 주로 explicit feedback을 예측 → 직접적인 error metric 사용 (RMSE)

2.2 Evaluation of Top-K Ranking

• binary-value(0 or 1)로 이루어진 implicit feedback을 예측
  • regression과 classification 둘 다 활용 가능
  • RMSE와 같이 직접적인 error metric은 사용 불가능함
    • Recall@K, NDCG@K 등을 사용
• 유저가 보지 않은 item들의 compatibility score 순서에 따라 ranked list를 생성
• 상위 K개의 추천 중 몇 개나 유효한 지 평가
• Mean Reciprocal Rank (MRR), NDCG@K 는 직접적으로 순위를 고려하는 metric

3. Resources

3.1 Related Academic Conferences

• 발전 속도가 매우 빠른 CS/AI/ML 분야는 학회 위주로 실적이 인정되는 경향이 있음
  • RecSys, KDD, WWW, WSDM, ICDM, CIKM, SIGIR, AAAI, IJCAI, ICML, NeurIPS, ICLR, etc.
• 추천시스템의 경우 일반적인 AI/ML 학회뿐만 아니라 Web 또는 Data Mining관련 학회에서도 출간되는 경우가 잦다.
• 아무래도 분야별로 인용 횟수는 차이가 날 수 밖에 없으니 좋은 참고자료를 찾을 때 인용 횟수만을 고려해선 안된다.

3.2 Python Libraries

• [Surprise](http://surpriselib.com/)
  • 전통적인 알고리즘
    • SVD, Probabilistic MF, SVD++, Nonnegative MF
• [Implicit](https://github.com/benfred/implicit)
  • WRMF의 ALS 알고리즘 버전, BPR, Logistic MF
  • 빠른 서빙을 위한 Approximate Nearest Neighbor 라이브러리
  • Multi-threading 및 GPU 지원
• [pywFM](https://github.com/jfloff/pywFM)
  • Python wrapper for libFM
    • C++ library for FM with SGD, ALS, and MCMC
• [RecBole](https://github.com/RUCAIBox/RecBole)
  • 70여 개 이상의 알고리즘을 지원하는 PyTorch 기반 라이브러리
• [rectorch](https://github.com/makgyver/rectorch)
  • CF 기반의 알고리즘을 지원하는 PyTorch 기반 라이브러리
• [Vowpal Wabbit](https://vowpalwabbit.org/index.html)
  • Yahoo!에서 개발한 분산 컴퓨팅을 위한 ML 프레임워크
    • Online Learning, Dimension Reduction, Contextual Bandit 등을 지원

3.3 Datasets

• https://cseweb.ucsd.edu/~jmcauley/datasets.html
  • MovieLens, Netflix, Amazon (commerce review), Twitch (live-streaming interactions), Million Song Dataset (Music), CiteULike (scholarly article)등 다양한 도메인의 벤치마크 데이터