Heterogeneous Network Embedding via Deep Architectures

[kacky24]

short summary

deep learningのアーキテクチャを使った教師なしのheterogeneous network embedding手法の提案。 (heterogeneous<->homogeneous, 単一の種類でないノードからなるネットワーク） 論文内では、画像とテキストの２種類のノードについて主に考えているが、拡張可能

linearな枠組みでのembedding

• 画像、テキストをそれぞれベクトルに変換(pixelを行ごとに積み重ねる、tfidfなど）
• それぞれに対して変換行列を用意し、固定長のベクトルにする。
• 固定長ベクトルの内積が類似度を表すので、リンクがあるとき内積を大きくするようにロス関数を設定し、学習。

ただ、linearであり、複雑なネットワークのつながりを表現するには心もとない。

deepなアーキテクチャを追加

• 上記の枠組みにおいて、固定長ベクトルに変換するところで、deep learningによるモデルを使う。
  • 画像ならCNN, テキストならtfidf + fully connected layer

実験結果：clustering, classification. retrievalにおいて既存手法を上回る分散表現を獲得できた。(classificationは分散表現獲得後SVM)

author

Shiyu Chang1, Wei Han1, Jiliang Tang2, Guo-Jun Qi3, Charu C. Aggarwal4, Thomas S. Huang1 1 Beckman Institute, University of Illinois at Urbana-Champaign, IL 61801. 2 Computer Science and Engineering, Arizona State University, Tempe, AZ 85281. 3 University of Central Florida, Orlando, FL, 32816. 4 IBM T.J. Watson Research Center, NY, 10598. {chang87, weihan3, t-huang1}@illinois.edu, jiliang.tang@asu.edu, guojun.qi@ucf.edu charu@us.ibm.com

URL

http://www.ifp.illinois.edu/~chang87/papers/kdd_2015.pdf

year

2015 KDD