kacky24 / papers

my publications and short summaries of papers I have read
3 stars 1 forks source link

metapath2vec: Scalable Representation Learning for Heterogeneous Networks #20

Closed kacky24 closed 5 years ago

kacky24 commented 6 years ago

short summary

heterogeneous networkにおける分散表現の獲得手法matapath2vec, matapath2vec++の提案。

metapath2vec

deepwalkやnode2vecのように、random walkでサンプリングしたcontextに対してskipgram(+negative sampling)を適用して、分散表現を獲得する。 ただ、heterogeneous networkにおけるrandom walkでは、ノード数が多いノードタイプに偏ってしまう問題があるため、meta-path-based random walkを用いる。 meta-path-based random walkでは、あらかじめ決められたノードタイプの系列であるmeta-pathにしたがってrandom walkする。 meta-pathの例として、P(paper), A(author), V(venue)とすると、APAは共著関係を、APVPAは著者が同じ学会に参加したことを表す。 また、meta-pathは対称であり、最初と最後のノードタイプは同じになる。

Imgur

matapath2vec++

metapath2vecでは、softmaxにおいてノードタイプの情報を無視しており、あるタイプのノードの学習の際に全てのタイプからnegative samplingを許容している。 そこで、タイプごとに分布を分けて学習を行う。

Imgur

複数の実験で既存手法を上回る結果。

author

Yuxiao Dong∗ Microsoft Research Redmond, WA 98052 yuxdong@microsoft.com Nitesh V. Chawla University of Notre Dame Notre Dame, IN 46556 nchawla@nd.edu Ananthram Swami Army Research Laboratory Adelphi, MD 20783 ananthram.swami.civ@mail.mil

URL

https://ericdongyx.github.io/papers/KDD17-dong-chawla-swami-metapath2vec.pdf

year

2017 KDD