[강의] 4강 - Collaborative Filtering (2)

[41ow1ives]

@Jeong-Junhwan @ryubright

[Jeong-Junhwan]

1. Deep Learning-based Collaborative Filtering

1.1 Deep Learning 모델의 장점과 한계

• Nonlinear Transformation을 통해 복잡한 user-item interaction 설명
• Feature engineering도 좀 대충 해도 되고, image 같은 숫자 아닌 데이터도 학습 가능
• RNN, Transformer 같은 시계열 모델 덕분에 sequence 정보를 학습 가능
• 다양한 구조들이 쉽게 결합 가능하고, 오픈 소스가 많다.
• 사실상 black box라서 설명이 안된다
• Data가 많이 필요하다 (RecSys는 CV나 NLP보단 낫다....)
• 하이퍼 파라미터 튜닝이 필요하다

1.2 Examples of Deep Learning for CF

결국 CF란 user - item의 interaction을 통해 학습을 하는 것. 이 과정에 딥러닝을 끼워 넣은 예시들은 아래와 같다.

• NCF
  • inner product를 MLP로 대체했다.
• AutoRec
• DeepMF

1.3 Autoencoder 기반의 CF

• user-item matrix를 encoder에 넣어서 어떤 latent code를 만들고, 이를 decoder에 넣어서 다시 user-item matrix를 만듦
• 넣기 전에는 sparse 했는데, 나온 결과는 아직 존재하지 않은 상호작용에 어떤 숫자가 들어있을 것.
  • 원래의 interaction matrix $R$에서 user $u$에 대한 row를 $R_u$라고 하자.
  • $Z = f(W_e R_u + b_e)$ encoder를 통해 나온 latent vector
  • $h(R_u) = g(W_d Z + b_d)$ 이 꼴은 $R_u$가 encoder와 decoder를 거친 모습이다.
  • $R_u - h(R_u)$ 를 이용해 학습을 할 수 있다.
  • 이 때, $u$가 소비한 item에 대해서만 학습한다.

2. DL-based CF for Rating Prediction

2.2 U/I-RBM (Restricted Boltzmann Machine)

• 요새는 안쓰는 방법. 그냥 참고용
• 최초로 Neural network를 추천에 활용한 모델 중 하나
• 특이하게, RMSE 예측을 multi-class classification 문제로 변환해서 풂

2.3 U/I-AutoRec

• Autoencoder를 최초로 추천시스템에 적용
• 위의 설명 한 방법 그대로
• I-AutoRec이 U-AutoRec보다 낫다.
  • # rating per item > # rating per user 이기 때문
• Activation function, # Hidden layer, Neuron, 등등에 영향을 꽤 받음

3. DL-based CF for Top-K Ranking

Implicit feedback의 경우 항상 positive한 feedback만 존재하므로 negative sampling을 이용해 학습에 도움을 줄 수 있다.

3.2 NeuMF

• inner product랑 MLP를 둘다 활용
• 추후 연구에서 사실은 별로라는 주장이 제기되기도 함

3.3 CDAE (Collaborative Denoising Auto-Encoder)

• 기존의 Autoencoder에 dropout을 이용하여 noise를 추가
• Linear layer의 bias 처럼 user node를 추가하여 bias처럼 사용
• 어차피 확률 '값'을 활용 하는 것 이라서 나머지는 특별 할 것이 없다.

3.4 Multi-VAE

VAE

• 어떤 걸 직접적으로 최적화를 못하니까 그것의 Lower Bound를 끌어올리는 방법 사용
• ELBO (Evidence Lower BOund) 라고 부르는데, autoencoder로 해석 가능
  • ELBO $=E{q\phi (z|x)}[p\theta (x|z)] - KL(q\phi (z|x) | p_\theta (z))$
  • 앞의 항은 z를 통해 x를 만드는 것. 즉, decoder
  • 뒤의 항은 x를 통해 z를 만드는 것. 즉, encoder

Multi-VAE

• VAE를 Multinomial distribution을 이용해 모델링 한 것
  • 여러가지 아이템들이 한정된 budget을 놓고 경쟁하는 현상 표현 가능
• VAE를 KL annealing을 이용해 regularize 함
  • KL 앞에 $\beta$를 곱해줌
  • $\beta$는 0~특정 값까지 선형적 증가 (시기에 따라 강조되는 부분이 다름)
• 성능 굿

모델의 구분

• Linear vs Non-linear
• Probabilistic Assumption?
  • Which data distribution?

3.5 EASE (Embarrassingly Shallow Autoencoder)

• Autoencoder의 user-free 버전 느낌
• closed form solution이 유도 가능함 > 가볍고 좋다

[ryubright]

1.1 Deep Learning 모델의 장점과 한계

장점

• Nonlinear Transformation
  • 복잡한 user-item interaction 포착
• Representation Learning
  • Feature-engineering에 드는 수고를 덜어줌
  • Heterogeneous contents 정보 포함 가능
• Sequence Modeling
• Flexibility

단점

• Interpretability
  • 뉴럴 네트워크의 구성요소들이 여전히 연구 주제다.
• Data Requirement
  • 유의미한 성능을 내기 위한 데이터 양이 많다.
  • NLP, CV에 비하면 양호한 편
• Extensive Hyperparameter Tuning
  • 머신러닝도 동일하지만 딥러닝이 더 심각하다.

1.2 Examples of DeepLearning for CF

• Idea: 유저 term과 item term의 관계를 모델링할 때 inner product 대신 DNN을 사용하는 것
• Why? MF의 inner product는 그거의 linearity로 인해 표현력에 한계가 있으므로

1.3 Autoencoder 기반의 CF

• 인코더와 디코더 사이에 latent code가 있는 형태의 모델
• 입력값 rating을 reconstruction할 수 있게끔 학습함으로써 rating이 갖고 있는 잠재적인 패턴이 latent code에 암호화 한다.
• rating을 latent code로 암호화하는 과정이 encoder, latent code로 부터 r’을 재생성하는 과정을 decoder라 한다.

2. DL-based CF for Rating Prediction

2.1 Explicit Feedback and Rating Prediction

Rating Prediction 문제는 real-value로 이뤄진 explicit feedback을 예측하는 태스크에 주로 사용된다. Explicit feedback은 영화의 별점과 같이 사용자의 선호에 대한 명시적인 정보를 제공한다.

2.2 U/I-RBM

Restricted Boltzmann Machines for Collaborative Filtering(2007)

• RBM을 활용한 기법으로 최초로 NN을 활용한 추천모델 중 하나

2.3 U/I-AutoRec

AutoRec: Autoencoders Meet Collaborative Filtering (2015)

• RBM이후로 딥러닝이 잠잠하다 나타남
• 오리지널 Autoencoder를 적용함
• User/Item 별 Rating을 입력 값으로 사용 후 출력 값과의 error확인
• Backpropagation이 전체 노드에 적용되는게 아닌 관측된 rating과 관련 있는 노드에 대해서만 업데이트
• 아이템 기반이 유저기반 autorec보다 더 좋다.
  • rating per item이, rating per user보다 압도적으로 더 많기 때문
• 활성화 함수를 어떻게 조합할지에 따라 성능차이 큼
• hidden layer의 뉴런 수나 레이어의 개수를 높이면 더 좋은 성능

3. DL-based CF for Top-K Ranking

3.1 Implicit Feedback and Top-K Ranking

• 생략

3.2 NeuMF

Neural Matrix Factorization (NeuMF) = Generalized MF (GMF) + MLP

• MF모델의 한계 극복
• 알고보니 NeuMF가 MF보다 더 안좋다더라

3.3 CDAE

Collaborative denoising auto-encoders for top-n recommender systems (2016)

• Denoising Auto Encoder 사용
• Input Layer에 User Node 추가
• top-k 예측이기 때문에 interaction이 일어날 확률을 예측

3.4 Mult-VAE

VAE를 interaction data의 reconstruction에 활용

• multinomial likelihood 를 data distribution으로써 사용
  • Data를 Gaussian이 아닌 Multinomial distribution(합이 1)으로 모델링함으로써 아이템들이 한정된 budget을 놓고 경쟁하는 현상을 표현할 수 있다.
• 학습할 때 KL annealing을 사용
  • 학습과정에서 $\beta$를 0에서부터 시작하여 특정값까지 선형적으로 증가시켜 나감. 학습 초기에 reconstruction term을 강조함으로써 보다 효율적인 학습을 도모할 수 있음

3.5 EASE

Embarrassingly Shallow Autoencoders

• AE이자 user-free모델
• Closed-form으로 도출되기 때문에 Tensorflow나 PyTorch의 autograd 기능을 사용하지 않고도 단순한 numpy함수로도 계산 가능