Closed GUOhm230 closed 8 months ago
作者您好: 我用MNN->tools->MNNPythonOfflineQuant中的python量化工具(python MNN库版本为1.1.6)时,按照提供的代码和说明处理数据和代码。最后nn.compress.train_quant(net, quant_bits=8)一直报错:segmentation fault(core dumped).注释掉该行之后则可以正常运行;请问这个原因是为什么呢? 我模型中包含CNN和GRU.输入数据为(1,8000),输入后进行特征提取操作后batchnorm2d后放入CNN模块中,激活函数为relu,之后接GRUY以及FC。输入为(’a‘,"b")每个都是(1,51,88)。模型在转成MNN过程中未做batchnorm和conv的融合,并加入了--for train,严格按照readme中的指示操作。但是format仍然是“nchw". 真诚希望得到作者的建议和意见。不胜感激。也希望路过的各位提供各种意见和交流。先行谢过!
Marking as stale. No activity in 60 days.
作者您好: 我用MNN->tools->MNNPythonOfflineQuant中的python量化工具(python MNN库版本为1.1.6)时,按照提供的代码和说明处理数据和代码。最后nn.compress.train_quant(net, quant_bits=8)一直报错:segmentation fault(core dumped).注释掉该行之后则可以正常运行;请问这个原因是为什么呢? 我模型中包含CNN和GRU.输入数据为(1,8000),输入后进行特征提取操作后batchnorm2d后放入CNN模块中,激活函数为relu,之后接GRUY以及FC。输入为(’a‘,"b")每个都是(1,51,88)。模型在转成MNN过程中未做batchnorm和conv的融合,并加入了--for train,严格按照readme中的指示操作。但是format仍然是“nchw". 真诚希望得到作者的建议和意见。不胜感激。也希望路过的各位提供各种意见和交流。先行谢过!