Open ghost opened 2 years ago
是不是模型对int8 不支持,如果想跑出int8的速度
需要改训练时的模型,使其最后得到的参数已经是量化的。
然后这个.tensorRT的作用。。。就 是不是和 ddrnet 直接导出 .onnx,然后用官方自带的工具转成trt 效果是一样的
int8需要部分验证集图片(500-1000张)生成校验表,可以对比下torch2trt或者onnx2trt的效果,记得之前ddrnet直接转是会报错。
是不是模型对int8 不支持,如果想跑出int8的速度
需要改训练时的模型,使其最后得到的参数已经是量化的。
然后这个.tensorRT的作用。。。就 是不是和 ddrnet 直接导出 .onnx,然后用官方自带的工具转成trt 效果是一样的