PaddlePaddle / PaddleHub

Awesome pre-trained models toolkit based on PaddlePaddle. (400+ models including Image, Text, Audio, Video and Cross-Modal with Easy Inference & Serving)【安全加固,暂停交互,请耐心等待】
https://www.paddlepaddle.org.cn/hub
Apache License 2.0
12.74k stars 2.07k forks source link

paddlehub2是否支持国产gpu驱动下的训练和预测? #2220

Open suntao2015005848 opened 1 year ago

suntao2015005848 commented 1 year ago

目前paddlehub2是基于CUDA下的paddlepaddle-gpu下实现预测和训练,那如果环境为国产驱动下的gpu资源例如海光 DCU、昇腾 NPU、Graphcore IPU、寒武纪 MLU、百度昆仑等,paddlehub2和paddlehub1.8是否适配这些版本的下的paddlepaddle来进行训练和预测。烦请hub的技术解惑。非常感谢。

suntao2015005848 commented 1 year ago

如果支持请您告知目前的技术方案和环境搭建过程。

rainyfly commented 1 year ago

Hi, 按照我的理解,paddlehub预测功能是直接依赖飞桨框架paddlepaddle进行的,理论上paddlehub只是管理了一下飞桨的预训练模型库而已,只要你安装的paddlepaddle能够在国产gpu上进行训练和推理那应该就是可以的。

suntao2015005848 commented 1 year ago

也就是说不管什么版本的paddlepaddle只要能在国产gpu上训练,预测。那相应版本的paddlehub也可以训练预测。 请问你们也没有具体的测试过,因为我这边要购入国产的gpu做研发,之前的模型一直都是用paddlehub1.8来训练和预测,若换了显卡,不知道模型是否能够直接迁移使用。感谢回答。

嗨,按照按照,,paddleHub预测预测是直接依赖依赖依赖飞桨依赖,paddlepaddle进行,paddleHub只是paddlehub只是只是只是管理了一下飞桨飞桨预训练预训练预训练预训练那应是可以的。

zgz757183190 commented 1 year ago

也就是说不管什么版本的paddlepaddle只要能在国产gpu上训练,预测。那相应版本的paddlehub也可以训练预测。 请问你们也没有具体的测试过,因为我这边要购入国产的gpu做研发,之前的模型一直都是用paddlehub1.8来训练和预测,若换了显卡,不知道模型是否能够直接迁移使用。感谢回答。

嗨,按照按照,,paddleHub预测预测是直接依赖依赖依赖飞桨依赖,paddlepaddle进行,paddleHub只是paddlehub只是只是只是管理了一下飞桨飞桨预训练预训练预训练预训练那应是可以的。

Hello,你们有使用 昇腾 NPU 部署paddleHub 可以行得通不呢?

rainyfly commented 1 year ago

可以移步 FastDeploy 套件进行多硬件部署

suntao2015005848 commented 1 year ago

@zgz757183190 没有我测的是其他架构

suntao2015005848 commented 1 year ago

也就是说不管什么版本的paddlepaddle只要能在国产gpu上训练,预测。那相应版本的paddlehub也可以训练预测。 请问你们也没有具体的测试过,因为我这边要购入国产的gpu做研发,之前的模型一直都是用paddlehub1.8来训练和预测,若换了显卡,不知道模型是否能够直接迁移使用。感谢回答。

嗨,按照按照,,paddleHub预测预测是直接依赖依赖依赖飞桨依赖,paddlepaddle进行,paddleHub只是paddlehub只是只是只是管理了一下飞桨飞桨预训练预训练预训练预训练那应是可以的。

Hello,你们有使用 昇腾 NPU 部署paddleHub 可以行得通不呢?

DCU和MLU可以跑。