search

rockchip-linux / RKNPUTools

22 stars 10 forks source link

dynamic_fixed_point-16量化问题 #1

Open fuyi02 opened 3 years ago

fuyi02 commented 3 years ago

dynamic_fixed_point-16量化是fp16量化么？我用这个方式量化模型之后，使用Linux目录下的ssd_mobilenet.cpp来测试耗时，uint8 mobilenetv2的耗时是6ms，fp16 mobilenetv2的耗时是50ms+，这个量级的差异太大了，是fp16模型在预测时要有不同的参数设置么？

alex-ht commented 2 years ago

dynamic_fixed_point-16是int16吧

zoumengchao commented 2 years ago

我测试的 rknn_mobilenet 耗时 在20ms 请问,你是怎么做到6ms的. 我难道没有调用到NPU么?