请问对于2/4 bits是否可扩展？

megvii-research / FQ-ViT

[IJCAI 2022] FQ-ViT: Post-Training Quantization for Fully Quantized Vision Transformer

Apache License 2.0

301 stars 48 forks source link

Closed Facatt closed 1 year ago

Facatt commented 1 year ago

您好，非常具有启发性的工作！

有一个问题：是否可BIT_TYPE_LIST添加新的：BitType(2, True, 'int2'), BitType(2, False, 'uint2'), BitType(4, True, 'int4')，来尝试量化某些模块到更低比特？

感谢！

linyang-zhh commented 1 year ago

感谢对我们工作的认可！拓展BIT_TYPE_LIST是可以的！欢迎尝试～