search

shouxieai / tensorRT_Pro

C++ library based on tensorrt integration
MIT License
2.57k stars 546 forks source link

int8量化后的trt模型可视化 #220

Open PrinceDouble opened 3 weeks ago

PrinceDouble commented 3 weeks ago

请教一下： 1、int8量化后的trt模型可以可视化分析每一层的输入输出类型吗，与fp16和fp32进行对比，因为int8量化后的模型不一定每一层都是int8吧，有可能是混合精度推理模型； 2、对于一些对输出精度要求高的层，怎么细粒度到设置该层为float输出呀？谢谢啦！