search

PaddlePaddle / PaddleHub

Awesome pre-trained models toolkit based on PaddlePaddle. (400+ models including Image, Text, Audio, Video and Cross-Modal with Easy Inference & Serving)【安全加固，暂停交互，请耐心等待】
https://www.paddlepaddle.org.cn/hub
Apache License 2.0
12.72k stars 2.08k forks source link

通过hub serving start启动PaddleHub Serving，能否多个模型用同一个端口8866，通过url路径参数区分模型，并提供DEMO代码。 #2099

Open waizao opened 2 years ago

waizao commented 2 years ago

欢迎您对PaddleHub提出建议，非常感谢您对PaddleHub的贡献！ 在留下您的建议时，辛苦您同步提供如下信息：

rainyfly commented 2 years ago

你好，应该是可以的，https://paddlehub.readthedocs.io/en/release-v2.1/tutorial/serving.html ，看看在 -m 参数后面接多个模块名。

waizao commented 2 years ago

你好，应该是可以的，https://paddlehub.readthedocs.io/en/release-v2.1/tutorial/serving.html ，看看在 -m 参数后面接多个模块名。 这个config.json文件是定了多个module，但是多个模型文件路径在哪里定义呢？ 比如：一共有三种模型，模型1为验证码识别，模型2为身份证件识别，模型3为动物识别 我们有三个训练的模型文件，那这三个模型文件路径在哪里配置呢？

rainyfly commented 1 year ago

你好，听你的描述感觉不是在用paddlehub本身的module，而是想要部署自己训练的模型来提供服务化，这边建议你使用Paddle的FastDeploy项目进行部署，这个是专门帮助用户进行高性能部署的项目，可以参考 https://github.com/PaddlePaddle/FastDeploy

waizao commented 1 year ago

你好，听你的描述感觉不是在用paddlehub本身的module，而是想要部署自己训练的模型来提供服务化，这边建议你使用Paddle的FastDeploy项目进行部署，这个是专门帮助用户进行高性能部署的项目，可以参考 https://github.com/PaddlePaddle/FastDeploy

是用paddleocr训练出来的三个模型，这种场景paddlehub也不支持一个端口部署吗？感觉应该很多人都有这类需求