search

monad-lab / study

2 stars 1 forks source link

[CH2](p.26) floating point: single vs double precision의 차이 #9

Open py6578 opened 9 months ago

py6578 commented 9 months ago

float는 single precision 실수이고, double은 double precision 실수인데 둘의 차이는?

image

py6578 commented 9 months ago

  1. float는 single precision 실수

    • 32 bit 크기(single word?)의, 우효숫자 7개로
    • 메모리 양이 적은 대신 표현할 수 있는 수의 크기와 정확도(precision)도 적음

  2. double은 double precision 실수

    • 64 bit 크기(double word?)의 유효숫자 16자리
    • 메모리양이 큰 대신, 더 크고, 높은 정확도의 실수 소수점을 표현할 수 있음
image