Open fengyanWang opened 11 months ago
test_file.zip
没有人管issue了吗?都5天了
可以先转成FP32 模型,看精度是否 OK,如果 OK,FP16 是 nan,要么是FP16 算子 BUG,要么就是 FP16 结果溢出了。
test_file.zip