deepwel / Chinese-Annotator

Annotator for Chinese Text Corpus (UNDER DEVELOPMENT) 中文文本标注工具
Apache License 2.0
1.46k stars 329 forks source link

nlp_word2vec component load word2vec from file. #12

Open zqhZY opened 6 years ago

zqhZY commented 6 years ago

用不同工具(如fasttext / gensim)训练word2vec保存的词向量结果格式不同, “nlp_word2vec”模块是否需要统一一个word2vec文件的存储方式?

crownpku commented 6 years ago

我觉得应该是加一个参数, embedding_type="gensim"/"fasttext",因为用户有可能有不同的两种预训练词向量。 当前版本我们先实现word2vec的吧!

zqhZY commented 6 years ago

gensim: models.keyedvectors – Store and query word vectors, Common code independent of the way the vectors are trained(Word2Vec, FastText, WordRank, VarEmbed etc)

crownpku commented 6 years ago

@zqhZY 所以对于已有词向量的存储和使用,只需要gensim一个包就够了对吧。用户要自己训练词向量的话,还是要用word2vec或者fasttext这些工具?

zqhZY commented 6 years ago

只需要gensim一个包就够, 可以适应大多数的工具生成的word2vec,已经提了一个request,辛苦review一下

befeng commented 6 years ago

这个地方我还有一个问题,如果我们用的包太杂,其结果我们需要维护很多依赖库,这个怎么处理。

crownpku commented 6 years ago

第一个是要做lazy import,即pipeline里某个模块某个函数用到了再去import相应的包。 另外对于常用包要及时写到requirements.txt里面 最后docker环境搭建的时候也会把依赖包一并打包进去的。