wantedly / machine-learning-round-table

Gather around the table, and have a discussion to catch up the latest trend of machine learning 🤖
https://www.wantedly.com/projects/391912
305 stars 2 forks source link

[2019/12/05] 推薦・機械学習勉強会 #28

Open yu-ya4 opened 4 years ago

yu-ya4 commented 4 years ago

Why

この会は、推薦や機械学習、その周辺技術を通じてサービスを改善することにモチベーションのある人達の集まりです。

発信のため、ここは public にしてあります。外部からの参加をご希望の方は Wantedly よりご連絡ください!

What

Wantedly では隔週木曜日に

といった話をする「推薦・機械学習勉強会」を開催しています。 この ISSUE はその会で話すネタを共有するための場所です。

話したいことがある人はここにコメントしましょう! 会の間に話した内容もここにメモしましょう!

prev: #26

yu-ya4 commented 4 years ago

Instagram の推薦システムの概要

Link: https://ai.facebook.com/blog/powered-by-ai-instagrams-explore-recommender-system/

推薦システムの設計を記述する独自言語 IGQL

以下のような形で推薦システムのアルゴリズムを記述できる。

user
.let(seed_id=user_id)
.liked(max_num_to_retrieve=30)
.account_nn(embedding_config=default)
.posted_media(max_media_per_account=10)
.filter(non_recommendable_model_threshold=0.2)
.rank(ranking_model=default)
.diversify_by(seed_id, method=round_robin)

アカウントを embedding する ig2vec

ユーザの過去のアカウントとの interaction 系列を文書とみなして word2vec ライクな学習を行う Ig2vec というアルゴリズムを利用して,似ているアカウントを判定する。同じような interaction 系列を持つアカウントは似ている。(ユーザとアカウントを使い分けてるので注意。)

スクリーンショット 2019-12-05 17 28 29

embedding だけを用いてアカウントのトピックを予測する分類器を訓練させて,その分類性能で embedding 自体を評価。 さくっと personalize したランキングを作れた。

推薦システムの仕組み

sourcing stage と ranking stage の2層に分かれている。 前者でザックリと推薦する候補を絞って,後者で候補を並び替えてランキングを作成する。

スクリーンショット 2019-12-05 17 48 22 スクリーンショット 2019-12-05 18 02 30
hakubishin3 commented 4 years ago

Target Encodingはなぜ有効なのか

Target Encodingの有効性をシンプルな実例を使って紹介しました. https://speakerdeck.com/hakubishin3/target-encoding-hanazeyou-xiao-nafalseka

yuko-i commented 4 years ago

Hugging Face の Transformers v2.2.0 リリース

https://github.com/huggingface/transformers/releases/tag/v2.2.0

4つの新しいモデルが追加

seq2seqモデルを簡単に作れるようなクラスが用意された

解説+サンプルソース https://medium.com/huggingface/encoder-decoders-in-transformers-a-hybrid-pre-trained-architecture-for-seq2seq-af4d7bf14bb8

agatan commented 4 years ago

それなりの速度でユーザのフィードバックを推薦に活用する方法を知りたい

近々 People でやりたい、というわけでもないのだけど、単純にどうやるのか興味があったので。

agatan commented 4 years ago

前に ALBERT については読んだので参考までに: https://github.com/wantedly/machine-learning-round-table/issues/18#issuecomment-537415909

shugo1107 commented 4 years ago

https://medium.com/karakuri/%E9%96%93%E9%9A%94%E5%8F%8D%E5%BE%A9%E3%81%AEdeep-learning%E3%81%B8%E3%81%AE%E5%BF%9C%E7%94%A8-2cde9ef903e7