search

Susan19900316 / yolov5_tensorrt_int8

yolov5 tensorrt int8量化方法汇总
57 stars 13 forks source link

使用自定义数据集如何对int8量化后的模型进行精度损失评估 #8

Closed SuGuilin closed 2 months ago

SuGuilin commented 9 months ago

int8精度损失评估如何像val.py中对FP32和FP16的验证进行操作

Susan19900316 commented 9 months ago

我使用的方法是 利用int8量化后的tensorrt模型对测试集或者验证集进行推理，保留推理结果，与gt进行相关指标的统计，对比fp16的相关指标，评价精度损失