-
你好！我基于deploy/cpp进行修改的部署框架，在编译过程中没有报错，但运行main时报错了。
系统配置：
- os=ubuntu18.04
- gcc=7.5.0
- cuda=10.2
- cudnn=7.6.5
- tensorRT=6.0.1.8
- paddleinference下载的预编译版本ubuntu14.04_cuda10.1_cudnn7.6_avx_mk…
-
我用slim/train.py文件量化训练了一个模型，模型各层的参数是分开保存的，我想测试以下模型的检测速度
用命令：
python -u tools/eval.py -c configs/yolov3_darknet_voc.yml
出来的检测速度是24fps
但我用命令
python slim/quantization/eval.py --not_quant_pattern yol…
-
### 系统信息
windows 10
cuda 10.2
cudnn 7.6.5
tensorrt TensorRT-7.0.0.11.Windows10.x86_64.cuda-10.2.cudnn7.6
paddle预测库：cuda10.2_cudnn7_avx_mkl_trt7
测试模型：http://paddle-inference-dist.cdn.bcebos.com/t…
-
1、有没有像torch指令一样，使用torch.cuda.empty_cache() 方法，预测完清空gpu或者cpu内存？
2、使用GC的方式删除模型，来达到释放资源
以paddleocr为例
import gc
from paddleocr import PaddleOCR, draw_ocr
ocr = PaddleOCR(use_angle…
-
请问Benchmark中关于ernie mkldnn的文档是否还需要维护？要不要删掉？
https://github.com/PaddlePaddle/benchmark/tree/master/Inference/c%2B%2B/ernie/mkldnn
因为ernie mkldnn的demo 和文档都在PaddleSlim 更新了
https://github.com/PaddleP…
-
**PaddleDetection team appreciate any suggestion or problem you delivered~**
## Checklist:
1. 查找历史相关issue寻求解答/I have searched related issues but cannot get the expected help.
2. 翻阅[FAQ](https:/…
-
我想问一下PaddleSeg 的模型deeplabv3 的推理问题，在CUDA-11.0环境下推理deeplabv3，目的是win10在RTX3070,RTX3080上使用。
如果deeplabv3 支持CUDA-11.0，我搭建模型推理，编译的时候出现很多错误？deeplabv3 支持CUDA-11.0的指引吗？
deeplabv3 支持CUDA-10.2，我搭建模型推理，编译是OK的。
-
paddledetection版本是0.3，模型用的cascade mask rcnn，win10，vs2019
-
