Open qappleh opened 4 years ago
其实有一定编程基础的同学们应该都知道,计算机是采用二进制来表示十进制的,规则是:整数除以2,商继续除以2,得到0为止,将余数逆序排列;小数乘以2,取整,小数部分继续乘以2,取整,得到小数部分0为止,将整数顺序排列。
再回到我们最初的问题, JS 采用 IEEE 754 双精度版本(64位),并且只要采用 IEEE 754 的语言都有前面的问题。
IEEE 754 标准是IEEE浮点数算术标准(IEEE Standard for Floating-Point Arithmetic)的标准编号 ,等同于国际标准ISO/IEC/IEEE 60559 。IEEE 754 标准规定了计算机程序设计环境中的二进制和十进制的浮点数之间的交换、算术格式以及方法 。
根据前面介绍的知识,0.1 的二进制表示为:
0.1 = 2^-4 * 1.10011(0011)// (0011) 表示循环
0.2 的二进制表示为:
0.2 = 2^-3 * 1.10011(0011)// (0011) 表示循环
前面说了,JS 采用 IEEE 754 双精度版本(64位),六十四位中符号位占一位,整数位占十一位,其余五十二位都为小数位。因为 0.1 和 0.2 都是无限循环的二进制,所以在小数位末尾处需要判断是否进位(规则和十进制里的四舍五入一样)。 所以 0.1的二进制表示(0.1 = 2^-4 1.10011(0011)) 进位后就变成了 2^-4 1.10011(0011 12次)010,同理可得0.2的二进制表示 。把这两个二进制加起来得到 2^-2 1.0011(0011 * 11次)0100 , 这个值再换算成十进制就是 0.30000000000000004。
所以说,0.1 + 0.2=0.30000000000000004,在JavaScript中,它的结果并非不固定的。
那么,如果需要比较0.1 + 0.2和0.3的关系,我们又该如何进行呢?
其实对于在大学学过数学分析、数值逼近或者高中数学的同学来说,自然可以想到让0.1 + 0.2的和减去0.3小于一个任意小的数,比如说我们可以通过他们差值是否小于0.0000000001来判断他们是否相等(其实ES6 已经在Number对象上面,新增一个极小的常量Number.EPSILON。根据规格,它表示 1 与大于 1 的最小浮点数之间的差。Number.EPSILON实际上是 JavaScript 能够表示的最小精度。误差如果小于这个值,就可以认为已经没有意义了,即不存在误差了。)。JavaScript也提供了一些原生的方法,比如toFixed() 方法可把 Number 四舍五入为指定小数位数的数字,语法:NumberObject.toFixed(num)
参考链接:https://segmentfault.com/a/1190000015051329
解决方案还有一个 , 把业务中所有小数用整数表示. 用bigNumber.js之类的库进行整数的运算.
例如把存储的时候,把金额的最小单位设置为0.01元, 所有的金额都是其整数倍.
为什么0.1 + 0.2 != 0.3?
其实有一定编程基础的同学们应该都知道,计算机是采用二进制来表示十进制的,规则是:整数除以2,商继续除以2,得到0为止,将余数逆序排列;小数乘以2,取整,小数部分继续乘以2,取整,得到小数部分0为止,将整数顺序排列。
再回到我们最初的问题, JS 采用 IEEE 754 双精度版本(64位),并且只要采用 IEEE 754 的语言都有前面的问题。
根据前面介绍的知识,0.1 的二进制表示为:
0.2 的二进制表示为:
前面说了,JS 采用 IEEE 754 双精度版本(64位),六十四位中符号位占一位,整数位占十一位,其余五十二位都为小数位。因为 0.1 和 0.2 都是无限循环的二进制,所以在小数位末尾处需要判断是否进位(规则和十进制里的四舍五入一样)。 所以 0.1的二进制表示(0.1 = 2^-4 1.10011(0011)) 进位后就变成了 2^-4 1.10011(0011 12次)010,同理可得0.2的二进制表示 。把这两个二进制加起来得到 2^-2 1.0011(0011 * 11次)0100 , 这个值再换算成十进制就是 0.30000000000000004。
所以说,0.1 + 0.2=0.30000000000000004,在JavaScript中,它的结果并非不固定的。
如何解决?
那么,如果需要比较0.1 + 0.2和0.3的关系,我们又该如何进行呢?
其实对于在大学学过数学分析、数值逼近或者高中数学的同学来说,自然可以想到让0.1 + 0.2的和减去0.3小于一个任意小的数,比如说我们可以通过他们差值是否小于0.0000000001来判断他们是否相等(其实ES6 已经在Number对象上面,新增一个极小的常量Number.EPSILON。根据规格,它表示 1 与大于 1 的最小浮点数之间的差。Number.EPSILON实际上是 JavaScript 能够表示的最小精度。误差如果小于这个值,就可以认为已经没有意义了,即不存在误差了。)。JavaScript也提供了一些原生的方法,比如toFixed() 方法可把 Number 四舍五入为指定小数位数的数字,语法:NumberObject.toFixed(num)
参考链接:https://segmentfault.com/a/1190000015051329