PaddlePaddle / PaddleX

All-in-One Development Tool based on PaddlePaddle（飞桨低代码开发工具）

Apache License 2.0

4.92k stars 962 forks source link

PaddlePaddle 2.0的模型部署 #710

Open jiangjiajun opened 3 years ago

jiangjiajun commented 3 years ago

[x] 部署文档
[ ] ONNX部署
[x] MaskRCNN
[ ] 结果的json输出
[ ] jetson编译部署
[ ] TensorRT
[ ] 性能测试
[ ] Windows删除USE_STATIC_LIB选项
[ ] PaddleServing部署
[ ] Triton原生与基于ONNX的对比情况
[x] 部分代码的调整（CreateModel、Results的传入、PreProcess等函数命名的规范)

目前基于2.0的部署代码已完成，提交在PaddleX/dygraph/deploy目录下，有需求的开发者可参考此使用文档https://github.com/PaddlePaddle/PaddleX/tree/develop/dygraph/deploy/cpp

heliqi commented 3 years ago

[x] 部分代码的调整（CreateModel、Results的传入、PreProcess等函数命名的规范) https://github.com/PaddlePaddle/PaddleX/pull/711

heliqi commented 3 years ago

[x] MaskRCNN https://github.com/PaddlePaddle/PaddleX/pull/721

heliqi commented 3 years ago

[x] ONNX部署

chccc1994 commented 3 years ago

有没有修改的cmake文件，win10 编译paddle2.0.2 预测库添加2.0以上的报lib名不存在错误。

heliqi commented 3 years ago

有没有修改的cmake文件，win10 编译paddle2.0.2 预测库添加2.0以上的报lib名不存在错误。

@chccc5 这个是2.0之后的cmake文件: https://github.com/PaddlePaddle/PaddleX/blob/develop/dygraph/deploy/cpp/CMakeLists.txt 2.0+的部署要用 dygraph/deploy 目录，代码路径： https://github.com/PaddlePaddle/PaddleX/tree/develop/dygraph/deploy/cpp

chccc1994 commented 3 years ago

有没有修改的cmake文件，win10 编译paddle2.0.2 预测库添加2.0以上的报lib名不存在错误。

@chccc5 这个是2.0之后的cmake文件: https://github.com/PaddlePaddle/PaddleX/blob/develop/dygraph/deploy/cpp/CMakeLists.txt 2.0+的部署要用 dygraph/deploy 目录，代码路径： https://github.com/PaddlePaddle/PaddleX/tree/develop/dygraph/deploy/cpp

u_int8_t 未声明？还是u_int8_t 是uint8_t？？

chccc1994 commented 3 years ago

有没有修改的cmake文件，win10 编译paddle2.0.2 预测库添加2.0以上的报lib名不存在错误。

@chccc5 这个是2.0之后的cmake文件: https://github.com/PaddlePaddle/PaddleX/blob/develop/dygraph/deploy/cpp/CMakeLists.txt 2.0+的部署要用 dygraph/deploy 目录，代码路径： https://github.com/PaddlePaddle/PaddleX/tree/develop/dygraph/deploy/cpp

u_int8_t 未声明？还是u_int8_t 是uint8_t？？

测试后，发现u_int8_t 应该改为uint8_t，通过Cmake 编译生成model_infer.exe。可以预测PaddleDetection推理模型。

model_infer.exe --model_filename=E:/Paddle/PaddleDetection/inference_model/yolov3_mobilenet_v1_roadsign/model.pdmodel --params_filename=E:/Paddle/PaddleDetection/inference_model/yolov3_mobilenet_v1_roadsign/model.pdiparams  --cfg_file=E:/Paddle/PaddleDetection/inference_model/yolov3_mobilenet_v1_roadsign/infer_cfg.yml --image=test.png --model_type=det