search

cerevra / int

38 stars 6 forks source link

Ошибка в вычислении numeric_limits::digits10 #7

Closed Imp5 closed 7 years ago

Imp5 commented 7 years ago

Сейчас вычисляется как digits10 = digits 38.2308 Должно вычисляться как digits10 = digits 0.30102999566

Imp5 commented 7 years ago

Ну и в самом digits похоже забыт sizeof(long)

cerevra commented 7 years ago

Спасибо. Починил https://github.com/cerevra/int/commit/b2fd277500c2bb9d36221068932eb82f17739202