search

PaddlePaddle / FastDeploy

⚡️An Easy-to-use and Fast Deep Learning Model Deployment Toolkit for ☁️Cloud 📱Mobile and 📹Edge. Including Image, Video, Text and Audio 20+ main stream scenarios and 150+ SOTA models with end-to-end optimization, multi-platform and multi-framework support.
https://www.paddlepaddle.org.cn/fastdeploy
Apache License 2.0
2.97k stars 462 forks source link

一个愚蠢的问题 关于 OpenVino/OnnxRuntime 版本问题 #2488

Open iKunCai opened 3 months ago

iKunCai commented 3 months ago

温馨提示：根据社区不完全统计，按照模板提问，可以加快回复和解决问题的速度

环境

一个愚蠢问题, 我看到说 win下 只支持cpu 推理，我有看到推理后端部分有判断only cpu. 有计划更新openvino to 2024.2 利用上intel npu 这个是因为目前没人贡献吗？还是有啥坑。 如果是没人适配。 等我弄完 npu 提交上去 amd/onnxruntime->amd ryzen ai 等intel弄完也搞起来

Jiang-Jia-Jun commented 3 months ago

@iKunCai 在当前的版本中我们集成的OpenVINO是支持Intel GPU推理的，当然不一定是最新版本。 这里是使用说明 https://github.com/PaddlePaddle/FastDeploy/tree/develop/tutorials/intel_gpu

当然也欢迎你贡献代码来支持AMD的GPU，我可以协助来完成代码Review及合入！ ：）

bltcn commented 3 months ago

我看到您这里说在支持npu，请问可以支持ascend的cann8.0版本嘛？

Jiang-Jia-Jun commented 3 months ago

没有支持cann 8.0