Closed nogawanogawa closed 1 year ago
推薦システムは、多くの場合
の二段階(2stage)のシステムを設計することが多くなっている。
このうち、検索に関しては、従来行列分解系のアプローチが取られていた。 しかしアイテムのコンテンツ的特徴は、先行研究で使用されてはいたが性能は不十分であった。
ユーザークエリx とアイテムyがあたえられたとき、これらの確率分布はsoftmaxで下記のようにあたえられる。
これに対数尤度とrewardを考慮したロスは
一般にアイテム数は非常に大きいので、これをバッチに切り分けで考える。 通常ネガティブサンプリングを行うが、ここではバッチの中からネガティブサンプリングを行う。
ポピュレーションバイアス考慮のために、
のように出現確率を推定する。
バッチ内の正例以外をすべて負例として扱う。
これをロスにすると
のようになる。 このようにして学習を行う。
アルゴリズムにすると下記のようなイメージ。
その他
Recallは高くなるらしい
A/Bテストの結果としても下記のように良くなっている。
論文URL
https://research.google/pubs/pub48840/
著者
Xinyang Yi Ji Yang Lichan Hong Derek Zhiyuan Cheng Lukasz Heldt Aditee Ajit Kumthekar Zhe Zhao Li Wei Ed Chi
会議
RecSys 2019
背景
推薦システムは、多くの場合
の二段階(2stage)のシステムを設計することが多くなっている。
このうち、検索に関しては、従来行列分解系のアプローチが取られていた。 しかしアイテムのコンテンツ的特徴は、先行研究で使用されてはいたが性能は不十分であった。
目的
アプローチ
ひとことメモ
Two-Tower modelの大本の論文っぽい