MiCRO: Multi-interest Candidate Retrieval Online

[nogawanogawa]

論文URL

https://arxiv.org/abs/2210.16271

著者

Frank Portman, Stephen Ragain, Ahmed El-Kishky

会議

Preprint(11/3現在)

背景

DeepLearningの発展によって、推薦におけるcandidate retrievalはANNベースのものが多くなっている。 ただし、この方法はいくつかの問題をはらんでいる。

• ユーザーとアイテムの複数の表現を学習しないと、検索されたアイテムは互いに類似性が高い（単一興味だけに関連する）
• ソーシャルメディアなど、新しいアイテムが追加されていく場合、新しいアイテムを推薦することは困難になる

目的

複数の興味を持つユーザーの嗜好をモデル化した、新規アイテムへの即応性のあるcandidate retrievalの実現

アプローチ

• Multi-interest Candidate Retrieval Online (MiCRO)
  • 下記の前提を置くようにモデリング
  • ユーザーは複数の興味を持つ
  • 興味はアイテムに対して関連が時間変化する
  • ユーザーやアイテムのembeddingを再学習する必要が無いため、新規のアイテムにも対応
  • 観測された過去のエンゲージメントを利用して,ユーザーの興味に関する混合表現を構築
  • ユーザーとアイテムの関連確率を推定し、ユーザーのモデルベースcandidate retrievalを実現

ひとことメモ

Twitterから出たcandidate generationの手法

[nogawanogawa]

背景

DeepLearningの発展によって、推薦におけるcandidate retrievalはANNベースのものが多くなっている。 ただし、この方法はいくつかの問題をはらんでいる。

• ユーザーとアイテムの複数の表現を学習しないと、検索されたアイテムは互いに類似性が高い（単一興味だけに関連する）
• ソーシャルメディアなど、新しいアイテムが追加されていく場合、新しいアイテムを推薦することは困難になる

[nogawanogawa]

目的

複数の興味を持つユーザーの嗜好をモデル化した、新規アイテムへの即応性のあるcandidate retrievalの実現

アプローチ

• Multi-interest Candidate Retrieval Online (MiCRO)
  • 下記の前提を置くようにモデリング
  • ユーザーは複数の興味を持つ
  • 興味はアイテムに対して関連が時間変化する
  • ユーザーやアイテムのembeddingを再学習する必要が無いため、新規のアイテムにも対応
  • 観測された過去のエンゲージメントを利用して,ユーザーの興味に関する混合表現を構築
  • ユーザーとアイテムの関連確率を推定し、ユーザーのモデルベースcandidate retrievalを実現

[nogawanogawa]

MiCRO

MiCROのグラフィカルモデルが下記のようになっている。

• 𝛼,𝛽 : ディリクレ分布の事前パラメータ
• 𝜃𝑢 : ユーザ 𝑢 の多項興味分布
• 𝜙 : 時間𝑡の関心事𝑘のアイテムに対する多項分布
• z : uの𝑖に対応する潜在的な興味
• i : ユーザー𝑢が関与したアイテムj

潜在的な興味の変数に対する推論は、潜在変数とパラメータが多く現実的ではないため、崩壊型ギブスサンプリングで近似する。