OpenPPL / ppq

PPL Quantization Tool (PPQ) is a powerful offline neural network quantization tool.
Apache License 2.0
1.56k stars 236 forks source link

存在与export_ppq_graph相对应的加载量化模型的接口吗? #510

Open LaoYingBu opened 1 year ago

LaoYingBu commented 1 year ago

在量化参数配置过程中,要评估不同的量化模型,没有对应的ppq_graph反序列化函数,每次都要重新跑一遍量化。能不能提供一个加载量化模型的函数,得到原来量化的ppq_graph?

ZhangZhiPku commented 1 year ago

可以,export_graph的时候选择 target platform = TargetPlatform.Native,这是PPQ自己的二进制格式,可以被 load_graph 读取。 其中包含所有量化信息。