search

CaoWGG / TensorRT-YOLOv4

tensorrt5, yolov4, yolov3,yolov3-tniy,yolov3-tniy-prn
264 stars 76 forks source link

你好,想问一下在做fp16和int8量化的时候发现你这边calibrate数据不起作用? #52

Open zhangzhixiangah opened 3 years ago

zhangzhixiangah commented 3 years ago

您好,我在用你的代码做fp16和int8量化的时候标定数据参数没用到为什么还能进行量化?难道是直接对权重直接量化的没有用到标定数据么? 谢谢