Learning to Retrieve for Job Matching

[nogawanogawa]

論文URL

https://arxiv.org/abs/2402.13435

著者

Jianqiang Shen, Yuchin Juan, Shaobo Zhang, Ping Liu, Wen Pu, Sriram Vasudevan, Qingquan Song, Fedor Borisyuk, Kay Qianqi Shen, Haichao Wei, Yunxiang Ren, Yeou S. Chiou, Sicong Kuang, Yuan Yin, Ben Zheng, Muchen Wu, Shaghayegh Gharghabi, Xiaoqing Wang, Huichao Xue, Qi Guo, Daniel Hewlett, Luke Simon, Liangjie Hong, Wenjing Zhang

会議

KDD 2024 (予定)

背景

LinkedInは、毎週6500万人以上のユニークでアクティブな求職者と、数千万件の無料（無記名）および有料（プロモーション）の求人情報を含む経済的機会を結んでいる。

ユーザーの50％は10分以内に再アクセスしている。

現状の求人検索システムは下記の様になっている

目的

linkedInの求人検索と推薦システムを強化

アプローチ

• 広告枠のtargetingの強化
• embeddingの作り方を含む検索プロセスの変更

TWO TOWER

two towerのアーキテクチャはwide and deepモデルを使っている模様

実装

テキストで絞り込んでからembeddingで更に絞り込むことで15M -> 1Kにcandidateを絞るらしい

ひとことメモ

Linkedinの話

[nogawanogawa]

背景

LinkedInは、毎週6500万人以上のユニークでアクティブな求職者と、数千万件の無料（無記名）および有料（プロモーション）の求人情報を含む経済的機会を結んでいる。

ユーザーの50％は10分以内に再アクセスしている。

現状の求人検索システムは下記の様になっている

[nogawanogawa]

目的

inkedInの求人検索と推薦システムを強化

アプローチ

• 広告枠のtargetingの強化
• embeddingの作り方を含む検索プロセスの変更

[nogawanogawa]

ターゲティング

プロモーションのフローについては、応募者の質を担保してリクルータに価値を提供することを目的としている。 また、バジェットをコントロールしながら適切な数の応募者が出るようにしないといけない。

これを解決するためにグラフを使っている。

SeekerとJobの間のセグメントをつなげたグラフを構築し、属性間の相互作用などを確立する。

求人の職種とユーザーのジョブタイトルの間の関係性を推定することでリンクの有無を推定する

[nogawanogawa]

embedding のパーソナライズ

Embedding based retrieval(EBR)のためのEmbeddingについても改善した。

• Negative sampling
  • In-Batch Negative Sampling
  • Random Easy Negative Sampling
  • Online Hard Negative Sampling

また、カリキュラムラーニング（ちょっとずつhard negativeを増やしていく）方法も取り入れたとのこと

TWO TOWER

two towerのアーキテクチャはwide and deepモデルを使っている模様

実装

テキストで絞り込んでからembeddingで更に絞り込むことで15M -> 1Kにcandidateを絞るらしい

[nogawanogawa]

評価

Promoted Pipeline

targetingによるrecall、FP評価

オフラインでは既存の手法と同程度ながら、モデルサイズは非常に軽量（L1 Logistic） オンラインでは15％のエンゲージメント / buggetを達成

Organic Pipeline

オフラインでembeddingによるKNNのrecallを調べた結果。ちゃんとrecallがあがってる。

検索においては、検索成功セッションが相対的に大幅に増加し、+2.37%増加した。さらに、求人への応募も+1.45%増加しました。