models/PaddleNLP/emotion_detection/ 部署

PaddlePaddle / models

Officially maintained, supported by PaddlePaddle, including CV, NLP, Speech, Rec, TS, big models and so on.

Apache License 2.0

6.92k stars 2.91k forks source link

Open lixuan1 opened 4 years ago

lixuan1 commented 4 years ago

这个如何部署呢，因为有中文语句的输入，部署的参数设置代码应该怎么编写呢？另外，该推断模型应该要用到vocab.txt的，但部署这里应该怎么设置呢？希望得到解答

jiweibo commented 4 years ago

为了将模型应用于线上部署，可以利用inference_model.py 脚本对模型进行裁剪，只保存网络参数及裁剪后的模型。 https://github.com/PaddlePaddle/models/tree/develop/PaddleNLP/emotion_detection#%E6%9C%8D%E5%8A%A1%E9%83%A8%E7%BD%B2

得到预测使用的模型后，请参考服务器预测部署文档https://www.paddlepaddle.org.cn/documentation/docs/zh/advanced_usage/deploy/inference/native_infer.html