Open tm4roon opened 4 years ago
教師データとなる(入力文, 変換先スタイル, 変換後の文)のペアを必要としないスタイル制御モデルを提案。ある文のスタイルを判定するdisciminatorとスタイル変換を担うstyle transformerを用いて敵対的学習を行う。結果として、スタイルを適切に変換しつつ、内容や流暢性においても高い評価を獲得している。
スタイルが2種類しか存在しない場合は、入力文xとそのスタイルsが一致しているかどうかを予測。スタイルが複数ある場合は、入力文xがどのスタイルに対応するのかを予測する。アルゴリズムの流れは以下の通り。
損失関数は以下。
(入力文, その文のスタイル)のペアを用いて、入力文を復元する損失関数(self reconstruction loss), 入力文を別なスタイルに変換したのち、それを元のスタイルに戻すことによる損失関数(cycle reconstruction loss)及び、スタイル制御ができているかどうかに関する損失関数(style controlling loss)を用いて、学習を行う。
self construction loss
cycle reconstruction loss
style controlling loss
Style Transformer: Unpaired Text Style Transfer without Disentangled Latent Representation
教師データとなる(入力文, 変換先スタイル, 変換後の文)のペアを必要としないスタイル制御モデルを提案。ある文のスタイルを判定するdisciminatorとスタイル変換を担うstyle transformerを用いて敵対的学習を行う。結果として、スタイルを適切に変換しつつ、内容や流暢性においても高い評価を獲得している。
文献情報
手法 (Methods)
Discreminator Learning
スタイルが2種類しか存在しない場合は、入力文xとそのスタイルsが一致しているかどうかを予測。スタイルが複数ある場合は、入力文xがどのスタイルに対応するのかを予測する。アルゴリズムの流れは以下の通り。
損失関数は以下。
Style Transformer Learning
(入力文, その文のスタイル)のペアを用いて、入力文を復元する損失関数(self reconstruction loss), 入力文を別なスタイルに変換したのち、それを元のスタイルに戻すことによる損失関数(cycle reconstruction loss)及び、スタイル制御ができているかどうかに関する損失関数(style controlling loss)を用いて、学習を行う。
self construction loss
cycle reconstruction loss
style controlling loss
Training algorithm
結果
人手評価
Ablation study
コメント (Comments):