search

Tencent / ncnn

ncnn is a high-performance neural network inference framework optimized for the mobile platform
Other
20.38k stars 4.16k forks source link

int8 table问题 #2113

Open Eric-Zhang1990 opened 4 years ago

Eric-Zhang1990 commented 4 years ago

@nihui 问下应该如何选取矫正集样本， 我用的squeezenet_ssd，以voc数据集为例， 我的选取规则是每个类别随机选取了50张， 总共1000张， 但是生成的.table的scale值和你提供是https://github.com/BUG1989/caffe-int8-convert-tools/edit/master/detection-dev/squeezenetssd_weight.table 差别比较大。 请问你选取矫正集的规则是什么呢？ 谢谢！

Eric-Zhang1990 commented 4 years ago

@arnaudbrejeon @maxint @cook @nihui 能否帮忙解答一下， 谢谢！

Eric-Zhang1990 commented 4 years ago

@arnaudbrejeon @maxint @cook @nihui 量化后的ncnn模型性能差，（1）是否与选择的校准图片有关？ （2）校准图片的选取有什么原则吗？ （issue #892 里也有问到）， 谢谢！

weilanShi commented 4 years ago

@nihui 问下应该如何选取矫正集样本， 我用的squeezenet_ssd，以voc数据集为例， 我的选取规则是每个类别随机选取了50张， 总共1000张， 但是生成的.table的scale值和你提供是https://github.com/BUG1989/caffe-int8-convert-tools/edit/master/detection-dev/squeezenetssd_weight.table 差别比较大。 请问你选取矫正集的规则是什么呢？ 谢谢！

我在量化后精度倒是没多大变化，但是速度慢了好几倍，不知道是什么情况，你的速度咋样？

ReverseSystem001 commented 4 years ago

@nihui 问下应该如何选取矫正集样本， 我用的squeezenet_ssd，以voc数据集为例， 我的选取规则是每个类别随机选取了50张， 总共1000张， 但是生成的.table的scale值和你提供是https://github.com/BUG1989/caffe-int8-convert-tools/edit/master/detection-dev/squeezenetssd_weight.table 差别比较大。 请问你选取矫正集的规则是什么呢？ 谢谢！

我在量化后精度倒是没多大变化，但是速度慢了好几倍，不知道是什么情况，你的速度咋样？ ncnn-20200916 问一下，你的ncnn什么版本？我的ncnn-20200413最后转换出的模型都好使，但是使用ncnn-ncnn-20200727 跟 ncnn-20200916（mk文件ndk版本也改成了相应的版本），转换流程都没问题，但是inference使用ncnn->load_param（）加载模型时就直接崩了，好奇怪