search

OpenPPL / ppq

PPL Quantization Tool (PPQ) is a powerful offline neural network quantization tool.
Apache License 2.0
1.56k stars 236 forks source link

如何对不同的层设置不同的bit精度呀 #573

Open Zeudfish opened 2 months ago

Zeudfish commented 2 months ago

因为业务需要，需要对部分的层进行8bit量化，对部分层进行4bit量化，但是好像没有找到逐层量化的教程，请问能给个链接嘛