YunwenTechnology / Unilm

438 stars 87 forks source link

关于Preprocess4LeftLM和Preprocess4RightLM中的Mask问题 #31

Open BaenRH opened 1 year ago

BaenRH commented 1 year ago
  1. 仓库中代码Preprocess4LeftLM和Preprocess4RightLM的掩码好像都是生成下三角?
  2. 关于Preprocess4LeftLM中的下三角掩码,对于padding的位置,掩码值是否应该为0而不是1?