c3b2a7 / c3b2a7.github.io

https://lolico.me
4 stars 0 forks source link

高精度计算 | #58

Open c3b2a7 opened 2 years ago

c3b2a7 commented 2 years ago

https://lolico.me/2018/09/04/%E9%AB%98%E7%B2%BE%E5%BA%A6%E8%AE%A1%E7%AE%97/

前言  由于计算机运算是有模运算,数据范围的表示有一定限制,如整型int(C++中int与long相同)表达范围是(-2^312^31-1),unsigned long(无符号整数)是(02^32-1),都约为几十亿.如果采用实数型,则能保存最大的double只能提供15~16位的有效数字,即只能精确表达数百万亿的数.因此,在计算位数超过十几位的数时,不能采用现有类型,只能自己