Open c978899 opened 2 years ago
单独计算时计算正常,我以为是数据量过大出现误差,修改了batch_size可是依然会出现nan
用了amp吧
你好,能不能提供具体的输入参数呢?我好做一点测试。根据目前的信息来看,我感觉像是数值误差引起的问题。就像我在#36 里面说的:
说实话我这整个repo的代码都是naive实现,只是proof of concept,写的时候突出一个quick and dirty,没有针对数值稳定性做过太多优化和测试(我也确实不擅长这个,对不住)。
我建议可以试试把x,y,w,h这几个尺寸参数进行归一化,可能会更稳定一些。
而且batch size取1的时候算出IoU=1.3429肯定是有问题的,因为IoU不应该大于1。
抱歉这么晚才回复。根据测试的result来看的话,iou计算是有问题的,不过具体问题在哪,我不太清楚。。我太菜了。
这个程序还会出现负数,我x,怎么玩
我在debug branch下更新了代码,你可以试试。新版本要比之前稳定一些。
debug一样会出现nan