dlunion / tensorRTIntegrate

TensorRT ONNX Plugin、Inference、Compile
465 stars 114 forks source link

这个是基于tensorrt7吗 #24

Open shaominghe opened 4 years ago

shaominghe commented 4 years ago

我看里面从tensorrt拷贝过来的代码是tensorrt5或者6,根本不是tensorrt7

dlunion commented 4 years ago

onnx-tensorrt是6.0的 之前做了个版本是基于onnx-tensorrt7和tensorrt7.0的,看这里 但是。。。 1、7.0对动态batch的支持没搞定,可能我太蠢了,问题太多,文档一个没找到,官方人员没问出来 。所谓动态batch,指编译时指定最大batch,运行使用不同batch大小(小于等于最大batch) 2、7.0在特定时候有bug,我用同样代码,仅仅换成6后,结果和torch完全一致,但是7就不一致,这个问题我同事也复现出来过,结论也是 所以就退回到了6版本,除非有新版本解决,否则我不在考虑用7

另外,这个项目本身可以修改库路径后直接使用tensorRT7.0,不会报错