Closed SuGuilin closed 2 months ago
int8精度损失评估如何像val.py中对FP32和FP16的验证进行操作
我使用的方法是 利用int8量化后的tensorrt模型对测试集或者验证集进行推理,保留推理结果,与gt进行相关指标的统计,对比fp16的相关指标,评价精度损失
int8精度损失评估如何像val.py中对FP32和FP16的验证进行操作