PaddlePaddle / models

Officially maintained, supported by PaddlePaddle, including CV, NLP, Speech, Rec, TS, big models and so on.
Apache License 2.0
6.9k stars 2.91k forks source link

models/PaddleNLP/emotion_detection/ 部署 #4330

Open lixuan1 opened 4 years ago

lixuan1 commented 4 years ago

这个如何部署呢,因为有中文语句的输入,部署的参数设置代码应该怎么编写呢?另外,该推断模型应该要用到vocab.txt的,但部署这里应该怎么设置呢?希望得到解答

jiweibo commented 4 years ago

为了将模型应用于线上部署,可以利用inference_model.py 脚本对模型进行裁剪,只保存网络参数及裁剪后的模型。 https://github.com/PaddlePaddle/models/tree/develop/PaddleNLP/emotion_detection#%E6%9C%8D%E5%8A%A1%E9%83%A8%E7%BD%B2

得到预测使用的模型后,请参考服务器预测部署文档https://www.paddlepaddle.org.cn/documentation/docs/zh/advanced_usage/deploy/inference/native_infer.html