Learning Hierarchical Features from Generative Models

[msrks]

• https://arxiv.org/abs/1702.08396
• https://ermongroup.github.io/blog/hierarchy/

hirokazuさんのLab

Deep neural networks have been shown to be very successful at learning feature hierarchies in supervised learning tasks. Generative models, on the other hand, have benefited less from hierarchical models with multiple layers of latent variables. In this paper, we prove that hierarchical latent variable models do not take advantage of the hierarchical structure when trained with existing variational methods, and provide some limitations on the kind of features existing models can learn. Finally we propose an alternative architecture that do not suffer from these limitations. Our model is able to learn highly interpretable and disentangled hierarchical features on several natural image datasets with no task specific regularization or prior knowledge.

[msrks]

階層型のVAEでも、階層的な表現を抽出するためのモデル、VLAEを提案。

Classifierは細部を抽象化すればいいが、Generatorで階層構造を得るには抽象から細部を具体化してやる必要がある。したがってrealisticでfigure全体としてconsistentなものを得るには、全体的なcontextに対する情報を、xと直接つながるlatent variableが有している必要がある。したがって従来型の階層VAEでは階層構造がうまく抽出されない（最下層が全体的な特徴も持ってしまう）。

そこで、提案のVLAEでは上位の階層のlatent variableから、決定的な関数でxにつながるpathを作ってあげた。この単純な変更で、階層構造が綺麗に学習できるようになった。SVHNに対する結果の可視化がすごくいい！