Spherical Latent Spaces for Stable Variational Autoencoders

[icoxfog417]

一言でいうと

VAEを学習するとき、潜在表現zが無視され事前分布と事後分布を一致させる方向に学習が行われてしまうことがある(KL collapse)。これを解消するために、正規分布の代わりにVon Mises–Fisher分布(球面上の分布)を導入。KL距離からパラメーター要素(μ,σ)を除去することで、学習による一致を防いでいる

論文リンク

https://arxiv.org/abs/1808.10805

著者/所属機関

Jiacheng Xu, Greg Durrett

• The University of Texas at Austin

投稿日付(yyyy/MM/dd)

2018/8/31

概要

新規性・差分

手法

結果

コメント

[icoxfog417]

314 で提示された難しさを解決するアプローチになっている。