Open linxkon opened 6 days ago
https://linxkon.github.io/Transformer%E7%9A%84%E4%BB%A3%E7%A0%81%E5%AE%9E%E7%8E%B0-%E5%9F%BA%E4%BA%8EPytorch.html?#attention-visualization
本文是Transfomrer的Pytorch版本实现. 实现的过程中非常考验维度控制的功底. 本文实现参考Transformer 的 PyTorch 实现, 我对其在个别地方进行了修改, 并对所有的数据全部加上了维度注释. 本文的代码已经放到了Colab上, 打开设置GPU就可以复现(需要科学上网).
右键我在COLAB中打开!
右键我在COLAB中打开! 如果你不能科学
colab打不开呀
linxkon
commented
6 days ago linxkon
commented
6 days ago
https://linxkon.github.io/Transformer%E7%9A%84%E4%BB%A3%E7%A0%81%E5%AE%9E%E7%8E%B0-%E5%9F%BA%E4%BA%8EPytorch.html?#attention-visualization
本文是Transfomrer的Pytorch版本实现. 实现的过程中非常考验维度控制的功底. 本文实现参考Transformer 的 PyTorch 实现, 我对其在个别地方进行了修改, 并对所有的数据全部加上了维度注释. 本文的代码已经放到了Colab上, 打开设置GPU就可以复现(需要科学上网).
右键我在COLAB中打开!
右键我在COLAB中打开! 如果你不能科学