tm4roon / survey

Survey on machine learning.
14 stars 1 forks source link

Style Transformer: Unpaired Text Style Transfer without Disentangled Latent Representation #61

Open tm4roon opened 4 years ago

tm4roon commented 4 years ago

Style Transformer: Unpaired Text Style Transfer without Disentangled Latent Representation

教師データとなる(入力文, 変換先スタイル, 変換後の文)のペアを必要としないスタイル制御モデルを提案。ある文のスタイルを判定するdisciminatorとスタイル変換を担うstyle transformerを用いて敵対的学習を行う。結果として、スタイルを適切に変換しつつ、内容や流暢性においても高い評価を獲得している。

文献情報

手法 (Methods)

Discreminator Learning

スタイルが2種類しか存在しない場合は、入力文xとそのスタイルsが一致しているかどうかを予測。スタイルが複数ある場合は、入力文xがどのスタイルに対応するのかを予測する。アルゴリズムの流れは以下の通り。

損失関数は以下。

Style Transformer Learning

(入力文, その文のスタイル)のペアを用いて、入力文を復元する損失関数(self reconstruction loss), 入力文を別なスタイルに変換したのち、それを元のスタイルに戻すことによる損失関数(cycle reconstruction loss)及び、スタイル制御ができているかどうかに関する損失関数(style controlling loss)を用いて、学習を行う。

Training algorithm

結果

人手評価

Ablation study

コメント (Comments):