Closed cjj-sunshine closed 2 years ago
您好,请问将这种方法用于T5或者BART模型时,Encoder和Decoder部分都需要添加past_key_values的初始化吗,添加了past_key_values后,在求attention score时,需要对T5或者BART模型源码的forward部分进行修改吗?希望能尽快得到您的回复!
@cjj-sunshine Hi,
好的,非常感谢您的回复!
您好,请问将这种方法用于T5或者BART模型时,Encoder和Decoder部分都需要添加past_key_values的初始化吗,添加了past_key_values后,在求attention score时,需要对T5或者BART模型源码的forward部分进行修改吗?希望能尽快得到您的回复!