search

drgpu / blog_comments

0 stars 0 forks source link

浮点数的二进制存储 2 - FindHao #47

Open drgpu opened 2 years ago

drgpu commented 2 years ago

https://www.findhao.net/academic/2569.html

之前的那篇转载浮点数的存储转载内容比较粗糙。今天又花了点时间试了个具体的例子。部分内容摘自参考。 以32bit浮点数 0.123456789的存储为例，通过在线进制转换获得其16进制表示为 3DFCD6E9