lilanxiao / Rotated_IoU

Differentiable IoU of rotated bounding boxes using Pytorch
MIT License
416 stars 64 forks source link

warning: missing return statement at end of non-void function "compare_vertices" #45

Open LUO77123 opened 2 years ago

LUO77123 commented 2 years ago

大佬,我在本地运行就可以,一到服务器上,就显示这个warning: missing return statement at end of non-void function "compare_vertices",还是可以install,但是运行起来就全部是nan

LUO77123 commented 2 years ago

另外,大佬如何修改可以不用cuda加速喃

LUO77123 commented 2 years ago

发现问题所在了,diou中w, h = enclosing_box(corners1, corners2, enclosing_type),返回的w, h会有1-2变成喃,导致后续都nan,这块代码能看是bug吗

lilanxiao commented 2 years ago

大佬,我在本地运行就可以,一到服务器上,就显示这个warning: missing return statement at end of non-void function "compare_vertices",还是可以install,但是运行起来就全部是nan

我没遇到过这个问题。可能是环境不一致导致的。那块CUDA代码写的确实不好,所以我试着在debug branch上把它去掉了。

lilanxiao commented 2 years ago

发现问题所在了,diou中w, h = enclosing_box(corners1, corners2, enclosing_type),返回的w, h会有1-2变成喃,导致后续都nan,这块代码能看是bug吗

能不能提供触发这个bug的测试代码呢?我没有遇到过这个问题。

LUO77123 commented 2 years ago

发现问题所在了,diou中w, h = enclosing_box(corners1, corners2, enclosing_type),返回的w, h会有1-2变成喃,导致后续都nan,这块代码能看是bug吗

能不能提供触发这个bug的测试代码呢?我没有遇到过这个问题。

大佬,我是将你的代码替换yolov5的box计算,进行旋转检测,避免nan修改如下 image 但是网络学习不到东西 image

我在尝试一下debug版本,

LUO77123 commented 2 years ago

发现问题所在了,diou中w, h = enclosing_box(corners1, corners2, enclosing_type),返回的w, h会有1-2变成喃,导致后续都nan,这块代码能看是bug吗

能不能提供触发这个bug的测试代码呢?我没有遇到过这个问题。

iou_loss查了,有一个nan,反查是W里面出现一个nan image 继续查, image 接着是 image 应该是 ----》 proj = point_line_projection_range(lines, points) # (..., 24) 里面有问题