aovoc / nnieqat-pytorch

A nnie quantization aware training tool on pytorch.
MIT License
238 stars 40 forks source link

量化感知训练后模型的部署 #19

Open Timothy-105 opened 3 years ago

Timothy-105 commented 3 years ago

量化感知训练后将模型部署在hisi平台,pytorch 转成caffe的过程中,相比原来的模型,在卷积激活后会有一个cast层,caffe不支持,请问可有解决的办法?

forwardwfg commented 3 years ago

请问解决了吗

aovoc commented 3 years ago

我走的是pytorch->caffe 的流程,没碰到这个问题哈,具体解决需要看一下这个cast 层怎么产生,功能是什么

jie311 commented 3 years ago

量化感知训练后将模型部署在hisi平台,pytorch 转成caffe的过程中,相比原来的模型,在卷积激活后会有一个cast层,caffe不支持,请问可有解决的办法?

你有使用onnx-simplifier吗