search

senses-chat / rasa-paddlenlp

Rasa通过PaddleNLP提供中文支持
MIT License
32 stars 13 forks source link

关于模型训练 #4

Closed yaoing closed 2 years ago

lhr0909 commented 2 years ago

作者你好, 我看了下paddlenlp_tokenizer和paddlenlp_featurizer代码里没有关于训练的描述, 是不是说明预训练模型没有办法直接通过rasa的NLU example进行微调呢?

@yaoing 你好，Rasa的实现原理是使用预训练模型的embedding进行DIET Classifier的训练，所以不直接对预训练模型进行训练哈。如果有微调需求的话，需要参考PaddleNLP提供的办法先对模型进行微调，再在Rasa中使用。希望可以帮到你。

yaoing commented 2 years ago

是的, 我今天刚了解到了, 所以关了issue~

yaoing commented 2 years ago

另外, 顺便请教一下, DIET Classifier的epoch一般设置多大呢?