[Other General Issues] 用tensorrt加速的时候报错

[voyag8r]

我按照文档要求已经按照了包含trt的paddle， paddlepaddle_gpu-2.2.1-cp37-cp37m-linux_x86_64.whl

在设置参数--run_mode=trt_int8 --trt_calib_mode=True跑picodet导出模型的的infer.py时候报错 File "/home/vehicle_detection/PaddleDetection-release-2.3/deploy/python/infer.py", line 567, in load_predictor predictor = create_predictor(config) ValueError: (InvalidArgument) Pass tensorrt_subgraph_pass has not been registered. Please use the paddle inference library compiled with tensorrt or disable the tensorrt engine in inference configuration! [Hint: Expected Has(pass_type) == true, but received Has(pass_type):0 != true:1.] (at /paddle/paddle/fluid/framework/ir/pass.h:236)

我不用设置trt的时候是可以的，不知道什么原因啊？ 谢谢

[yghstill]

@voyag8r 测试下trt_fp32和trt_fp16看看可以测试通不，trt_int8需要模型是量化后的模型。

[voyag8r]

@voyag8r 测试下trt_fp32和trt_fp16看看可以测试通不，trt_int8需要模型是量化后的模型。

@yghstill 我试了trt_fp32和trt_fp16，也是同样的报错。

[voyag8r]

Name Version Build Channel

_libgcc_mutex 0.1 main defaults appdirs 1.4.4 pypi_0 pypi astor 0.8.1 pypi_0 pypi attrs 21.2.0 pypi_0 pypi babel 2.9.0 pypi_0 pypi bce-python-sdk 0.8.53 pypi_0 pypi ca-certificates 2020.12.8 h06a4308_0 defaults cached-property 1.5.2 pypi_0 pypi certifi 2020.12.5 py37h06a4308_0 defaults cfgv 3.2.0 pypi_0 pypi chardet 3.0.4 pypi_0 pypi click 7.1.2 pypi_0 pypi cma 3.0.3 pypi_0 pypi colorama 0.4.4 pypi_0 pypi colorlog 4.6.2 pypi_0 pypi cycler 0.10.0 pypi_0 pypi cython 0.29.21 pypi_0 pypi decorator 4.4.2 pypi_0 pypi dill 0.3.4 pypi_0 pypi distlib 0.3.1 pypi_0 pypi easydict 1.9 pypi_0 pypi filelock 3.0.12 pypi_0 pypi flake8 3.8.4 pypi_0 pypi flake8-import-order 0.18.1 pypi_0 pypi flask 1.1.2 pypi_0 pypi flask-babel 2.0.0 pypi_0 pypi flask-cors 3.0.9 pypi_0 pypi funcsigs 1.0.2 pypi_0 pypi future 0.18.2 pypi_0 pypi gast 0.3.3 pypi_0 pypi gitdb 4.0.9 pypi_0 pypi gitpython 3.1.24 pypi_0 pypi gunicorn 20.0.4 pypi_0 pypi h5py 3.5.0 pypi_0 pypi identify 1.5.10 pypi_0 pypi idna 2.10 pypi_0 pypi imageio 2.9.0 pypi_0 pypi imgaug 0.4.0 pypi_0 pypi importlib-metadata 3.3.0 pypi_0 pypi iniconfig 1.1.1 pypi_0 pypi itsdangerous 1.1.0 pypi_0 pypi jieba 0.42.1 pypi_0 pypi jinja2 2.11.2 pypi_0 pypi joblib 1.0.0 pypi_0 pypi kiwisolver 1.3.1 pypi_0 pypi lap 0.4.0 pypi_0 pypi ld_impl_linux-64 2.33.1 h53a641e_7 defaults libedit 3.1.20191231 h14c3975_1 defaults libffi 3.3 he6710b0_2 defaults libgcc-ng 9.1.0 hdf63c60_0 defaults libstdcxx-ng 9.1.0 hdf63c60_0 defaults markupsafe 1.1.1 pypi_0 pypi matplotlib 3.3.3 pypi_0 pypi mccabe 0.6.1 pypi_0 pypi motmetrics 1.2.0 pypi_0 pypi multiprocess 0.70.12.2 pypi_0 pypi ncurses 6.2 he6710b0_1 defaults networkx 2.5 pypi_0 pypi nltk 3.5 pypi_0 pypi nodeenv 1.5.0 pypi_0 pypi numpy 1.19.4 pypi_0 pypi objgraph 3.5.0 pypi_0 pypi onnx 1.9.0 pypi_0 pypi opencv-python 4.2.0.32 pypi_0 pypi openssl 1.1.1i h27cfd23_0 defaults packaging 21.2 pypi_0 pypi paddle2onnx 0.8.2 pypi_0 pypi paddlefsl 1.0.0 pypi_0 pypi paddlehub 2.1.1 pypi_0 pypi paddlenlp 2.1.1 pypi_0 pypi paddlepaddle 2.2.0 pypi_0 pypi paddlepaddle-gpu 2.2.1 pypi_0 pypi paddleslim 2.1.1 pypi_0 pypi paddlex 2.0.0 pypi_0 pypi pandas 1.2.0 pypi_0 pypi pathlib 1.0.1 pypi_0 pypi pillow 8.2.0 pypi_0 pypi pip 20.3.3 py37h06a4308_0 defaults pluggy 1.0.0 pypi_0 pypi pre-commit 2.9.3 pypi_0 pypi prettytable 2.0.0 pypi_0 pypi protobuf 3.14.0 pypi_0 pypi psutil 5.8.0 pypi_0 pypi py 1.11.0 pypi_0 pypi py-cpuinfo 8.0.0 pypi_0 pypi pycocotools 2.0.2 pypi_0 pypi pycodestyle 2.6.0 pypi_0 pypi pycryptodome 3.9.9 pypi_0 pypi pyflakes 2.2.0 pypi_0 pypi pyparsing 2.4.7 pypi_0 pypi pytest 6.2.5 pypi_0 pypi pytest-benchmark 3.4.1 pypi_0 pypi python 3.7.9 h7579374_0 defaults python-dateutil 2.8.1 pypi_0 pypi python-graphviz 0.16 pypi_0 pypi pytz 2020.5 pypi_0 pypi pywavelets 1.1.1 pypi_0 pypi pyyaml 5.3.1 pypi_0 pypi pyzmq 20.0.0 pypi_0 pypi rarfile 4.0 pypi_0 pypi readline 8.0 h7b6447c_0 defaults regex 2020.11.13 pypi_0 pypi requests 2.24.0 pypi_0 pypi scikit-image 0.18.1 pypi_0 pypi scikit-learn 0.23.2 pypi_0 pypi scipy 1.5.4 pypi_0 pypi sentencepiece 0.1.94 pypi_0 pypi seqeval 1.2.2 pypi_0 pypi setuptools 51.0.0 py37h06a4308_2 defaults shapely 1.7.1 pypi_0 pypi shellcheck-py 0.7.2.1 pypi_0 pypi six 1.15.0 pypi_0 pypi sklearn 0.0 pypi_0 pypi smmap 5.0.0 pypi_0 pypi sqlite 3.33.0 h62c20be_0 defaults threadpoolctl 2.1.0 pypi_0 pypi tifffile 2020.12.8 pypi_0 pypi tk 8.6.10 hbc83047_0 defaults toml 0.10.2 pypi_0 pypi tqdm 4.27.0 pypi_0 pypi typing-extensions 3.7.4.3 pypi_0 pypi urllib3 1.25.11 pypi_0 pypi virtualenv 20.2.2 pypi_0 pypi visualdl 2.2.2 pypi_0 pypi wcwidth 0.2.5 pypi_0 pypi werkzeug 1.0.1 pypi_0 pypi wheel 0.36.2 pyhd3eb1b0_0 defaults xmltodict 0.12.0 pypi_0 pypi xz 5.2.5 h7b6447c_0 defaults yapf 0.26.0 pypi_0 pypi zipp 3.4.0 pypi_0 pypi zlib 1.2.11 h7b6447c_3 defaults

@yghstill 这是我的环境配置，除了包含trt的paddlepaddle，还需要装nvidia官方的tensorrt吗？