search

ModelTC / Dipoorlet

Offline Quantization Tools for Deploy.
Apache License 2.0
112 stars 16 forks source link

精度损失大 #31

Open xuxiaolin-github opened 4 months ago

xuxiaolin-github commented 4 months ago

你好，使用默认minmax校准量化转换后的模型，目标检测mAP降低10个点，这是为什么

gushiqiao commented 3 months ago

minmax校准比较简单，可以尝试用其他的方法比如-A mse、或者--brecq