txsun1997 / CoLAKE

COLING'2020: CoLAKE: Contextualized Language and Knowledge Embedding
https://aclanthology.org/2020.coling-main.327/
MIT License
114 stars 17 forks source link

vocab 文件 #9

Closed wangchichi1999 closed 3 years ago

wangchichi1999 commented 3 years ago

嗨!您好呀: 有一个问题,可不可以用CoLAKE的预训练模型model.bin直接替换之前pytorch代码里的英文bert模型呢? 如果可以的话,之前用pytorch的bert的时候通常需要model.bin和vocab.txt两个文件,vocab文件还是用之前的的咩? (小白发言)

txsun1997 commented 3 years ago

CoLAKE是基于RoBERTa,所以vocab文件和RoBERTa一样,不能替换BERT,可以替换RoBERTa

wangchichi1999 commented 3 years ago

Thanks!!!! 跑起来了而且效果很不错!