Hayashi-Yudai
commented
10 months ago Text Is All You Need: Learning Language Representations for Sequential Recommendation
Sequential Recommendationでアイテムのテキスト情報をうまく活用した研究
- これまでのSequential Recommendationモデル
- アイテムIDを活用
- cold start問題やcross domain推薦に弱い
- テキスト情報を活用
- 学習済みモデルを活用することが多いので準最適な性能しか出せていないのでは
- 推薦用にチューニングされるのでBERTの文脈理解的な性能が失われている
- アイテムIDを活用
- 提案手法：Recformer
- Longformerを事前学習するときに、MLMとしてのロスとアイテム間の対称学習のロスを組み合わせる
- ファインチューンするときには2-stageで対称学習を行う
nogawanogawa
Why
Machine Learning 輪講は最新の技術や論文を追うことで、エンジニアが「技術で解決できること」のレベルをあげていくことを目的にした会です。
prev.https://github.com/wantedly/machine-learning-round-table/issues/206
What
話したいことがある人はここにコメントしましょう！ 面白いものを見つけた時点でとりあえず話すという宣言だけでもしましょう！