Open AkihikoWatanabe opened 6 years ago
テキストの生成だけでなく、原文書からのコピーも行えるCopyNetを提案 CopyNetでは、selective readという方法を用いて、生成した単語の原文書における位置情報をエンコードし、単語のコピー確率の計算に用いる。各単語の生成確率は、デコーダのstateから単語を生成する確率と単語を原文書からコピーする確率を算出し、それらのmixtureとなる。 pointer-generator networkと比べると少し複雑なモデルで、distraction機構は入っていない。
解説スライド：https://www.slideshare.net/akihikowatanabe3110/incorporating-copying-mechanism-in-sequene-to-sequence-learning
テキストの生成だけでなく、原文書からのコピーも行えるCopyNetを提案 CopyNetでは、selective readという方法を用いて、生成した単語の原文書における位置情報をエンコードし、単語のコピー確率の計算に用いる。各単語の生成確率は、デコーダのstateから単語を生成する確率と単語を原文書からコピーする確率を算出し、それらのmixtureとなる。 pointer-generator networkと比べると少し複雑なモデルで、distraction機構は入っていない。
解説スライド：https://www.slideshare.net/akihikowatanabe3110/incorporating-copying-mechanism-in-sequene-to-sequence-learning