e4exp
commented
3 years ago 結論
本論文では、既存のGANの学習効率を高めるために、一般的な1ステージの学習戦略を調査する。 敵対的な目的に基づいて、我々はGANをSymmetric GANとAsymmetric GANの2つのクラスに分類する。 対称型GANでは、生成器の勾配計算は、識別器の学習中に識別器のバックプロパゲーションから得ることができる。 そのため、生成器と識別器の両方のパラメータを1段階で更新することができる。非対称GANに対しては、勾配分解法を提案する。 この方法では、前方推論中に非対称な敵対的損失を統合し、逆伝播中にその勾配を分解して、生成器と識別器を別々に1段階で更新する。 これらの解決策の関係を分析し、我々の1段階学習戦略に統一する。最後に，OSGANのTSGANに対する学習速度向上率を計算機的に解析する． 実験の結果、我々の提案するOSGANは、生成器と識別器のネットワーク・アーキテクチャに関わらず、TSGANと比較して1.5倍の速度を達成し、一方でTSGANの性能を維持していることが示された
Generative Adversarial Networks (GAN)は、様々な画像生成タスクにおいて、これまでにない成功を収めている。 しかし，このような成果は，生成器と識別器を2段階で交互に更新するという，煩雑な学習プロセスの代償として得られるものである。 本論文では、GANを1段階で効率的に学習することができる一般的な学習方式を検討する。 本論文では、生成器と識別器の敵対的損失に基づいて、GANを対称型GANと非対称型GANの2つのクラスに分類し、この2つのクラスを統一するための新しい勾配分解法を導入することで、1段階で両方のクラスを学習することができ、学習の手間を軽減することができる。 いくつかのデータセットと様々なネットワークアーキテクチャを用いた計算解析と実験結果から、提案した1段階学習方式は、生成器と識別器のネットワークアーキテクチャに関わらず、従来の学習方式に比べて1.5倍の高速化が可能であることを示した。 さらに、提案手法は、データフリーの知識抽出など、他の敵対的学習シナリオにも容易に適用できることを示している。ソースコードは近日公開予定です。