alibaba / MNN

MNN is a blazing fast, lightweight deep learning framework, battle-tested by business-critical use cases in Alibaba
http://www.mnn.zone/
8.67k stars 1.66k forks source link

包含CNN且MNN库支持的的音频识别相关模型无法量化的问题求解? #1742

Closed GUOhm230 closed 8 months ago

GUOhm230 commented 2 years ago

作者您好: 我用MNN->tools->MNNPythonOfflineQuant中的python量化工具(python MNN库版本为1.1.6)时,按照提供的代码和说明处理数据和代码。最后nn.compress.train_quant(net, quant_bits=8)一直报错:segmentation fault(core dumped).注释掉该行之后则可以正常运行;请问这个原因是为什么呢? 我模型中包含CNN和GRU.输入数据为(1,8000),输入后进行特征提取操作后batchnorm2d后放入CNN模块中,激活函数为relu,之后接GRUY以及FC。输入为(’a‘,"b")每个都是(1,51,88)。模型在转成MNN过程中未做batchnorm和conv的融合,并加入了--for train,严格按照readme中的指示操作。但是format仍然是“nchw". 真诚希望得到作者的建议和意见。不胜感激。也希望路过的各位提供各种意见和交流。先行谢过!

github-actions[bot] commented 8 months ago

Marking as stale. No activity in 60 days.