search

THUDM / P-tuning-v2

An optimized deep prompt tuning strategy comparable to fine-tuning across scales and tasks
Apache License 2.0
1.96k stars 198 forks source link

请问，实现p-tuningv2，在每一层都添加可学习参数的代码在哪里？，nlp新手，感谢！！ #55

Open lzh1998-jansen opened 1 year ago

lzh1998-jansen commented 1 year ago

请问，实现p-tuningv2，在每一层都添加可学习参数的代码在哪里？，nlp新手，感谢！！

yingying123321 commented 1 year ago

通过model的past_key_value这个参数；会将past_key_value concat到每一层的key和value。