search

kaluluosi / GDExcelExporter

为Godot开发的excel表导出工具
https://kaluluosi.github.io/GDExcelExporter/
MIT License
39 stars 4 forks source link

int 无法存过大的数据 #18

Closed Abab-bk closed 1 year ago

Abab-bk commented 1 year ago

我的数据是int类型，值为120000000000000000000 Godot里会报错： QQ截图20230429155533 E 0:00:00:0842 settings.gd:5 @ @implicit_new(): Cannot represent 120000000000000000000 as a 64-bit signed integer, since the value is too large. <C++ 错误> Condition "overflow" is true. Returning: sign == 1 ? 9223372036854775807LL : (-9223372036854775807LL - 1) <C++ 源文件> core/string/ustring.cpp:2233 @ to_int() <栈追踪> settings.gd:5 @ @implicit_new()

Abab-bk commented 1 year ago

我不太懂，看起来你这个int和普通int不一样

kaluluosi commented 1 year ago

int本来就不能存太大的数值，int的范围是 -32768～32767。如果你想要存这么巨大的数值你应该用float，浮点类型。 excel表里把字段类型改一下就可以了。

kaluluosi commented 1 year ago

@Abab-bk 要值得注意，godot script的float类型 在 大小对比的时候是会存在一些很奇怪的现象（精度问题）， 比如 0.41 < 0.43 会false。 https://github.com/godotengine/godot/issues/71079

Abab-bk commented 1 year ago

谢谢提醒

---原始邮件--- 发件人: @.> 发送时间: 2023年5月8日(周一) 晚上11:02 收件人: @.>; 抄送: @.>;"Hey R You @.>; 主题: Re: [kaluluosi/GDExcelExporter] int 无法存过大的数据 (Issue #18)

@Abab-bk 要值得注意，godot script的float类型 在 大小对比的时候是会存在一些很奇怪的现象（精度问题）， 比如 0.41 < 0.43 会false。 godotengine/godot#71079

— Reply to this email directly, view it on GitHub, or unsubscribe. You are receiving this because you were mentioned.Message ID: @.***>