为什么 0.1 + 0.2 = 0.300000004 · Why's THE Design? · /whys-the-design-floating-point-arithmetic

draveness / blog-comments

面向信仰编程

https://draveness.me

140 stars 6 forks source link

为什么 0.1 + 0.2 = 0.300000004 · Why's THE Design? · /whys-the-design-floating-point-arithmetic #194

Closed draveness closed 2 years ago

draveness commented 4 years ago

https://draveness.me/whys-the-design-floating-point-arithmetic

面向信仰编程 - Draveness's Blog

yuchanns commented 4 years ago

哈哈，周六的时候刚和朋友吐槽js，"10"+1和"10"-1

draveness commented 4 years ago

哈哈，周六的时候刚和朋友吐槽js，"10"+1和"10"-1

你这挺晚的...

liucy-eve commented 4 years ago

深入浅出，好文

Cherrison commented 4 years ago

csapp 2.4节...以及配套实验 lab1

f4nyc commented 4 years ago

【使用二进制表达十进制的小数时，某些数字无法被有限位的二进制小数表示；】来补充一下某些数字是哪些以及为什么：根据定义，二进制有限位数小数可以写作 $\frac{a}{2^b}$ 的形式,十进制有限位数小数可以写作 $\frac{a}{10^b}$ 的形式而 $\frac{a}{2^b} =\frac{a*5^b}{10^b}$ ，很显然二进制的有限位数小数是十进制有限位数小数的子集。甚至扩展一下：在k进制下(k>1)，任何形如a/b，且b的质因子不是k质因子的子集的数均为无限循环小数。

clanaid commented 3 years ago

配图还有趣，请问是用什么软件绘制的？

juliofeng commented 3 years ago

牛通

lsunky commented 3 years ago

如果再配上定点数这个解决浮点数精度问题的解决方案就更好了。