SCHENLIU / longformer-chinese

chinese version of longformer
110 stars 15 forks source link

预训练数据及调用 #8

Open xcjthu opened 3 years ago

xcjthu commented 3 years ago

您好,请问

  1. 您预训练这个模型,用了多大的中文语料数据呢?
  2. 在使用huggingface中,AutoModel.from_pretrained('schen/longformer-chinese-base-4096') 会出现参数不匹配的情况。请问您的模型应该如何迁移到huggingface上呢?