PaddlePaddle / models

Officially maintained, supported by PaddlePaddle, including CV, NLP, Speech, Rec, TS, big models and so on.
Apache License 2.0
6.89k stars 2.91k forks source link

PointNet++ Windows C++ Inference is not supported #4703

Open jb892 opened 4 years ago

jb892 commented 4 years ago

Hi,

问题:

pointnet++_paddle PointNet++现在无法支持Windows C++部署, 有支持的计划吗? 如果官方没有支持, 那可以提供一个Workaround的思路吗? 另外, 如果我后续想用PaddleServing做云端部署, custom_op会影响部署吗? 有相应的部署例子吗? 谢谢!

heavengate commented 4 years ago
  1. 不支持windows的部署主要是custom op的编译不支持,需要修改make.sh适配下windows
  2. custom op如果要部署的话编译的时候需要将custom op编译进去,目前没有例子,我们这边也在优化custom的部署方案
ZiqiXiong0603 commented 6 months ago

老哥,请问后来找到了相关部署的例子吗?在ubuntu上的也可以

jb892 commented 6 months ago

我后面用的是pytorch的libtorch C++库完成的部署,没有使用paddle

ZiqiXiong0603 commented 6 months ago

我后面用的是pytorch的libtorch C++库完成的部署,没有使用paddle

感谢老哥,我初步完成了,但是发现pointnet++单帧推理需要2000ms,pointnet只需要170ms,老哥您当初有发现类似问题吗

jb892 commented 6 months ago

也正常吧,pointnet++在encoder部分叠加了多个pointnet,计算量天然比pointnet大,infer时间长也正常,你不放心可以排查下pointnet++中耗时比较高的瓶颈在哪儿,可以如何优化

ZiqiXiong0603 commented 6 months ago

也正常吧,pointnet++在encoder部分叠加了多个pointnet,计算量天然比pointnet大,infer时间长也正常,你不放心可以排查下pointnet++中耗时比较高的瓶颈在哪儿,可以如何优化

好嘞,感谢老哥

ScarRipper commented 6 months ago

pointnet++单帧推理 博主 您好,请问可以求一份pointnet++part seg的推理代码吗?

ScarRipper commented 6 months ago

我后面用的是pytorch的libtorch C++库完成的部署,没有使用paddle

感谢老哥,我初步完成了,但是发现pointnet++单帧推理需要2000ms,pointnet只需要170ms,老哥您当初有发现类似问题吗

博主 您好,请问可以求一份pointnet++part seg的推理代码吗?