search

bilibili / gengine

Other
1.97k stars 275 forks source link

dataContext.Add 参数实际传入类型为int64，引擎调用本地函数签名类型也为int64，但引擎应该是作为float进行处理，导致出现精度问题，这个问题能解决下么？ #7

Closed bravesmiles closed 3 years ago

bravesmiles commented 3 years ago

dataContext.Add 参数实际传入类型为int64，引擎调用本地函数签名类型也为int64，但引擎应该是作为float进行处理，导致出现精度问题，这个问题能解决下么？

rencalo770 commented 3 years ago

因为gengine的计算特性和golang是保持一致的，但你所说的也的确有道理。容我重新测试测试，看看如何处理你提的这个问题

bravesmiles commented 3 years ago

因为gengine的计算特性和golang是保持一致的，但你所说的也的确有道理。容我重新测试测试，看看如何处理你提的这个问题

感谢，关于引擎有些问题也想跟你请教下，不知道能不能方便加个微信？的微信号是bravesmiles

rencalo770 commented 3 years ago

嗯，加了