PArallel Distributed Deep LEarning: Machine Learning Framework from Industrial Practice （『飞桨』核心框架，深度学习&机器学习高性能单机、分布式训练和跨平台部署）
22.17k
stars
5.57k
forks
source link
paddle.nn内置的TransformerDecoderLayer如果不需要enc_output的话该怎么传参呢？ #68842
Closed
mrcx-pku closed 1 day ago
请提出你的问题 Please ask your question
我想构建一个decoder-only的Transformer， 发现目前paddle.nn内置的TransformerDecoderLayer好像一定要enc_output，如果不想要的话该怎么传参呢？ 标准的例子是这样的： output = decoder(dec_input, enc_output, self_attn_mask, cross_attn_mask) 我试了传None给enc_output，但报错不行。