Возможно, где-то получается тип с большим precision из-за чего умножаем входные данные на большую константу, из-за чего случается переполнение int128 и как следствие inf. Я не уверен, что это надо чинить, надо просто убедиться, что это так. Возможно, надо просто руками ограничить где-то precision, чтобы не случалось переполнение.
resetius
commented
2 months ago
Возможно, где-то получается тип с большим precision из-за чего умножаем входные данные на большую константу, из-за чего случается переполнение int128 и как следствие inf. Я не уверен, что это надо чинить, надо просто убедиться, что это так. Возможно, надо просто руками ограничить где-то precision, чтобы не случалось переполнение.