Open shupinghu opened 4 months ago
你好,我将qat模型按照export_onnx_qat.py代码转成onnx,然后再利用trtexec --onnx=qat.onnx --saveEngine=qat.engine --int8获得tensorrt模型,发现推理速度反而不如原始模型使用trtexec --onnx=init.onnx --saveEngine=init.engine --fp32速度,不知道是什么原因?
抱歉,没遇到这种情况。
你好,我将qat模型按照export_onnx_qat.py代码转成onnx,然后再利用trtexec --onnx=qat.onnx --saveEngine=qat.engine --int8获得tensorrt模型,发现推理速度反而不如原始模型使用trtexec --onnx=init.onnx --saveEngine=init.engine --fp32速度,不知道是什么原因?