issues
search
koala-coding
/
day-day-up
每天进步一点点,记录每天在公司的一个小收获,一年后你回顾肯定收获了很多,哪怕是你知道了一个新函数,甚至一个新单词都可以。也算是一个个人成长秘籍吧
Apache License 2.0
9
stars
0
forks
source link
2020年3月19号 你要记录点什么?
#48
Open
weblixin
opened
4 years ago
weblixin
commented
4 years ago
↑↑↑ 接昨天
参考文章
浮点数的范围和精度问题(从原理到结论)
数值类型(浮点数)
FLOAT
float 是指单精度浮点数值
范围是(-3.402 823 466 E+38,-1.175 494 351 E-38),0,(1.175 494 351 E-38,3.402 823 466 351 E+38) 和 0,(1.175 494 351 E-38,3.402 823 466 E+38)
占用存储空间为 4 字节
单精度float类型使用32比特存储,其中1位表示符号,8位表示指数,23位表示尾数;
DOUBLE
double 是指双精度浮点数值
范围值(-3.402 823 466 E+38,-1.175 494 351 E-38),0,(1.175 494 351 E-38,3.402 823 466 351 E+38) 和 0,(2.225 073 858 507 201 4 E-308,1.797 693 134 862 315 7 E+308)
占用存储空间为 8 字节
双精度double类型使用64比特存储,1位符号位,11位指数位,52位尾数位。
DECIMAL
decimal 是指小数值
范围依赖于M和D的值
占用存储空间,对DECIMAL(M,D) ,如果M>D,为M+2否则为D+2
精度M表示值存储的有效位数,小数位数D表示小数点后可以存储的位数。
↑↑↑ 接昨天
参考文章
数值类型(浮点数)