PaddlePaddle / PaddleX

PaddlePaddle End-to-End Development Toolkit(飞桨低代码开发工具)
Apache License 2.0
4.6k stars 907 forks source link

【部署三日直播课】三行代码搞定AI模型部署,一行命令切换TensorRT、ONNX Runtime、OpenVINO、Paddle、RKNN等和对应硬件部署 #1627

Open leiqing1 opened 1 year ago

leiqing1 commented 1 year ago

欢迎大家关注PaddleX作者的新作品:FastDeploy全场景部署套件 🔥 三日直播课: 【直播分享】2022.11.09 20:30~21:30,《覆盖云边端全场景,150+热门模型快速部署》。微信扫码报名 【直播分享】2022.11.10 20:30~21:30,《瑞芯微、晶晨、恩智浦等10+AI硬件部署,直达产业落地》。微信扫码报名 【直播分享】2022.11.10 19:00~20:00,《10+热门模型在RK3588、RK3568部署实战》。微信扫码报名

🔥 当前能力:

  1. 目前支持了150+热门CV、NLP、Speech模型的部署。
  2. 支持TensorRT、OpenVINO、ONNX Runtime、RKNN、Paddle Inference、Paddle lite等。
  3. 支持CPU、GPU、Jetson、ARM CPU、瑞芯微NPU、晶晨NPU、恩智浦NPU、飞腾CPU、IPU等九大类硬件,更多硬件能力完善中。 GitHub地址:https://github.com/PaddlePaddle/FastDeploy
monkeycc commented 1 year ago

PaddleX作者的新作品 但是 FastDeploy 不支持 PaddleX

lailuboy commented 1 year ago

FastDeploy 支持 PaddleX 训练的模型已经在适配中了