Open lixuan1 opened 4 years ago
为了将模型应用于线上部署,可以利用inference_model.py 脚本对模型进行裁剪,只保存网络参数及裁剪后的模型。 https://github.com/PaddlePaddle/models/tree/develop/PaddleNLP/emotion_detection#%E6%9C%8D%E5%8A%A1%E9%83%A8%E7%BD%B2
得到预测使用的模型后,请参考服务器预测部署文档https://www.paddlepaddle.org.cn/documentation/docs/zh/advanced_usage/deploy/inference/native_infer.html
这个如何部署呢,因为有中文语句的输入,部署的参数设置代码应该怎么编写呢?另外,该推断模型应该要用到vocab.txt的,但部署这里应该怎么设置呢?希望得到解答