Closed tpoisonooo closed 2 years ago
数值上看,两个计算是近似的,且后者精度损失小一点。
修改前:
x_q = (x/in_scale).round() * (in_scale/in_scale1).round()
修改后:
x_q = (x/in_scale1).round()
啊瞬间反应过来啥意思了。没事了。
数值上看,两个计算是近似的,且后者精度损失小一点。
修改前:
修改后: