[2023/02/01]Machine Learning 輪講

[nogawanogawa]

Why

Machine Learning 輪講は最新の技術や論文を追うことで、エンジニアが「技術で解決できること」のレベルをあげていくことを目的にした会です。

prev. https://github.com/wantedly/machine-learning-round-table/issues/180

What

話したいことがある人はここにコメントしましょう！ 面白いものを見つけた時点でとりあえず話すという宣言だけでもしましょう！

[hakubishin3]

Deep Learning on Knowledge Graph for Recommender System: A Survey

GNNに基づく知識グラフ型推薦システムのサーベイ。

知識グラフ型RSはユーザとアイテムの相互作用だけでなく、アイテム to アイテムやユーザ to ユーザといった関係性も捉えるこ とができるもの。このグラフを扱う上で近年有用なアプローチとしてGNNがあり、この論文ではGNNによる埋め込み生成に焦点を当てて構成要素の解説や実際の推薦における問題（コールドスタート、スケーラビリティなど）をどのように対処しているかを紹介している。

GNNベースの推薦のワークフロー

[nogawanogawa]

A General Framework for Debiasing in CTR Prediction

論文URL

https://arxiv.org/abs/2112.02767

著者

Wenjie Chu, Shen Li, Chao Chen, Longfei Xu, Hengbin Cui, Kaikui Liu

会議

-(preprint)

背景

CTR予測は推薦システム等でよく使用されるタスクである。 このタスクでは、アイテムが表示される位置に影響を受けるポジションバイアスが発生することが知られている。

ポジションバイアスに対する対処として一般的なのは、ポジションに関する特徴とそれ以外を分離し、それらの積で確率を算出する物となっている。 しかしこの仮定は単純化されすぎている。

目的

既存のCTR予測に使用されている、観測確率 * 嗜好確率の単純化されすぎた仮定を補正する

アプローチ

• ポジションバイアスに対する別の方法で対応する

3つのモジュールに分けていて、

• Relevance Module: ユーザーとアイテムの間の関連性を推定
• Bias Module: 表示位置・その他バイアスによる影響を推定(2*2の行列で表現)
• combined module : 上記2つを組み合わせ

これらを組み合わせて使用する。 モデルの構成は基本的には全結合層とソフトマックスで構成され、Combinedでは行列-ベクトル積で結果を計算するようになっている。

また、Constraint Lossを

のように設定。

memo

https://github.com/nogawanogawa/paper_memo/issues/74