search

OAID / Tengine-Convert-Tools

Tengine Convert Tool supports converting multi framworks' models into tmfile that suitable for Tengine-Lite AI framework.
Apache License 2.0
93 stars 34 forks source link

yolox-nano模型转到tmfile之后精度下降的相关问题 #89

Closed FeiGeChuanShu closed 3 years ago

FeiGeChuanShu commented 3 years ago

按照虫叔的教程，把yolox-nano模型转到了tengine，使用最新的tengine-lite-v1.4，但是测试过程中发现： 1、如果打开fuse hardswish精度就会损失很多； 2、使用sigmoid+mul结构，精度会有所好转，但是跟ncnn相比较还是有一定精度下降。 特此附上onnx和tmfile模型，请大佬指点！ https://pan.baidu.com/s/15tDdcV4ZKGU2xuVekZhTyw 提取码: hpsr