pytorch-ONNX-TensorRT示例相关问题

NVIDIA / trt-samples-for-hackathon-cn

Simple samples for TensorRT programming

Apache License 2.0

1.47k stars 337 forks source link

Open FelixFu520 opened 1 year ago

FelixFu520 commented 1 year ago

我在windows上跑cookbook中的04-BuildEngineByONNXParser中pyTorch-ONNX-TensorRT示例时，遇到以下错误，

1, createCalibrationAndInferenceData.py中生成的dataDictionary["calibrationData"] = calibrationData 是np.float64的，这个会影响结果么

2，执行main.cpp 打开int8时，会在C++文件夹中calibrator.cpp中报错，报错内容如下原因时bufferSize是0

FelixFu520 commented 1 year ago

还有个问题，pData未分配内存，当退出构造函数时，会释放，导致结果不对

xuyixuan1999 commented 1 year ago

遇到了相同的问题，好像是除buffer_size的位置不对，需要往下移。

xuyixuan1999 commented 1 year ago

还有个问题，pData未分配内存，当退出构造函数时，会释放，导致结果不对

请问这个pData该怎么分配内存。

xuyixuan1999 commented 1 year ago

看到pr了，感谢