Deep Transfer Learning for Search and Recommendation

[hakubishin3]

The WEB Conference 2020 Tutorial https://sites.google.com/view/www2020-dtl-tutorial/home

[hakubishin3]

Why Transfer Learning?

• 検索推薦システムに転移学習を使う意義は?
  • スパースな訓練データを持つ, もしくはラベルを持たないシステムの性能を向上させる
  • 関連するシステムから新しいシステムへの一般化のギャップを埋める

[hakubishin3]

Transfer Learning: An Example on Linkedin

例 (1)

• Target: 求職者検索 (リクルータがユーザを探す)
  • Domain: クエリ特徴, ユーザ特徴
  • Task: リクルータがユーザプロフィールをclickするかどうか
• Source: ユーザ検索 (ユーザが他のユーザを探す)
  • Domain: クエリ特徴, ユーザ特徴
  • Task: ユーザが他ユーザのプロフィールをclickするかどうか

例 (2)

• Target: 求職者検索 (リクルータがユーザを探す)
  • Domain: クエリ特徴, ユーザ特徴
  • Task: リクルータがユーザプロフィールをclickするかどうか
• Source: 募集検索 (ユーザが募集を探す)
  • Domain: クエリ特徴, ユーザ特徴, 募集特徴
  • Task: ユーザが募集をclickするかどうか

[hakubishin3]

Deep Transfer Learning Approaches

• Model Transfer
  • sourceからtargetへモデルを転移させる
• Feature Representation Transfer
  • 異なるドメイン間で共有可能な特徴を学習
• Instance Transfer
  • 別のドメインから訓練データを持ってくる

[hakubishin3]

Model Transfer

NNのパラメータを source domain/task と target domain/task で共有する

• source domainsでpretrainしてtarget domainでfine-tuning
  • e.g. Bert, ImageNetで学習させたResnet
  • fine-tuningする際は, targetとsourceの類似度やサイズを考慮してfreezingしたり, 一部の層だけ学習させたりする
• targetとsourceのマルチタスクラーニング
  • e.g. Multi-gate Mixture of Expert [Ma et al., 2018]
  • Hard Parameter Sharing: 各タスク用のparameterを保持しておき, 残りは共有
  • Soft Parameter Sharing: parameterを直接共有しないで正則化をかける

[hakubishin3]

Feature Representation Transfer

sourceとtargetの間で特徴表現を共有する (NNでは実質model parameterの学習なので, Model Transferと一部被ってるかも)

• No adaptation to target
  • targetとsourceが密接に関連している場合に有効
  • 学習済みのsource modelから特徴量を抽出してtarget modelに入力
• With adaptation to target (labelが十分にあるケース)
  • マルチタスクラーニングして特徴表現を獲得 (model transfer)
• With adaptation to target (labelが十分にないケース)
  • domain adaptation: 異なるドメイン間で分布を近づける
    • Discrepancy-based
    • Adversarial-based
    • Reconstruction-based

[hakubishin3]

Instance Transfer

sourceの中から適切なデータを選択してtarget modelを学習するときの訓練データに加える

• ナイーブなやり方
  • 異なるドメイン間で共有化された表現空間内で類似したsource sampleを取得
• 強化学習を用いたアプローチ
  • Learning to Selectively Transfer: Reinforced Transfer Learning for Deep Text Matching [Qu et al., 2018]

[hakubishin3]

Deep Transfer Learning for Search and Recommendation

検索推薦システムの概念を以下のように整理している

• Understanding
  • より良い理解を得るため, pretrained modelから埋め込み表現を流用 (feature transfer)
• Retrieval
  • 埋め込み空間内の候補セットを拡張してより多くの候補を取得する
  • そのためのpretrained modelの埋め込み空間を利用 (feature transfer)
• Ranking
  • 異なるアプリケーション間の知見を流用するためのmodel transferやinstance transfer

[hakubishin3]

Feature Transfer for Understanding and Representation

pretrained modelを使用した特徴抽出により, より良い表現を取得

• User intent and interest
  • 検索クエリからの特徴
    • Bertとかを使う. fine-tuning と feature-based どちらもうまく機能する
  • ユーザプロフィールや行動履歴からの特徴
• Document representation
  • text, image, video etc.
    • imageだとCNNから特徴表現を抽出したり

[hakubishin3]

Model and Instance Transfer for Ranking

関連したタスクとのマルチタスクラーニングによるModel Transferは, Web上でユーザが複数の商品にinteractする現状では実用的と言える.

• Cross Domain
  • 異なるドメイン（サービス）のデータを流用する
  • A Multi-View Deep Learning Approach for Cross Domain User Modeling in Recommendation Systems [Elkahky et al., 2015]
  • Multi-task training by using cross connection unit instead of directly hard parameter sharing [Hu et al., 2018]
  • Cross-domain Recommendation via Deep Domain Adaptation [Kanagawa et al., 2018]
• Cross-Lingual
  • Language-Agnostic Representation Learning for Product Search on E-Commerce Platforms [Ahuja et al., 2020]

Instance Transferに関しては省略(ちかれた)

[hakubishin3]

The Case for Linkedin

Linkedinでは異なるプロダクトでのuserのinteractionが取れる.

• 募集へのclick / apply (Job Search)
• userへの繋がりリクエスト (People Search)

例えば, Amazonの募集に応募したユーザに対して, Amazon所属のuserに繋がりを推薦するなんてことができるのではないか?

Linkedinでは, source domainからuserの行動履歴を取ってきて, それから抽出された特徴量を用いてtarget domainの精度改善を行なっている.

[hakubishin3]

Feature Representation Transfer via Unified Embedding Learning

異なる推薦タスクを解くことで, 異なるドメイン間で共有されたエンティティ (user, item) の表現を学習する.

• Objective
  • user actions. e.g. People Search Click, Job Apply, Job View
• Features
  • user and item Profile
  • user activity history features
• Model <- Model Transfer
  • Multi-task learning network with hard parameter sharing for each shared entity
• OUtput <- Feature Representation Transfer
  • User and Item embeddings

[hakubishin3]

Infrastructure

Training & Saving

Serving

[hakubishin3]

Evaluation Results

Case Study 1: People Search + Careers Job Recommendation

• Source: Job Recommendation
• Target: People Search
• Joint training of People Search click, Job Apply, Job View signals
• Transfer the insights by using the learned member and job representation as features in People Search Ranking model (Feature Representation Transfer)

Case Study 2: Member-Company Recommendation Tasks

• Source: Ads, General Inmail, Recruiter Inmail
• Target: Linkedin Sales Solution
• 6 Tasks related to Member-Company Entity
• Multi-modal approach to conduct model transfer from source to target