search

baiy / Ctool

程序开发常用工具 chrome / edge / firefox / utools / windows / linux / mac
https://ctool.dev
MIT License
1.53k stars 216 forks source link

单位换算不精确 #214

Closed caoPhoenix closed 1 year ago

caoPhoenix commented 1 year ago

image image

给几个简单的小case： 365天 应该=8760小时=525,600分钟，图示的结果不精确，但是秒和毫秒又是精确的。 3600000毫秒 应该=60分，图示结果不精确

感觉有几个可能的地方：

  1. 应该用乘法的地方用了除法；
  2. 变量类型用了浮点数？