search

lipiji / SongNet

Code for ACL 2020 paper "Rigid Formats Controlled Text Generation"：https://www.aclweb.org/anthology/2020.acl-main.68/
MIT License
230 stars 40 forks source link

关于global attention #28

Open jackbyebye opened 3 years ago

jackbyebye commented 3 years ago

E_c+E_p+E_s 在H和F中都有出现，可不可以考虑 将H改成 H = E_w + E_g，使得H的信息更加简单，容易解耦，同时网络并不会损失E_c，E_p，E_s的信息？