search

lilanxiao / Rotated_IoU

Differentiable IoU of rotated bounding boxes using Pytorch
MIT License
415 stars 64 forks source link

warning: missing return statement at end of non-void function "compare_vertices" #45

Open LUO77123 opened 2 years ago

LUO77123 commented 2 years ago

大佬，我在本地运行就可以，一到服务器上，就显示这个warning: missing return statement at end of non-void function "compare_vertices"，还是可以install，但是运行起来就全部是nan

LUO77123 commented 2 years ago

另外，大佬如何修改可以不用cuda加速喃

LUO77123 commented 2 years ago

发现问题所在了，diou中w, h = enclosing_box(corners1, corners2, enclosing_type)，返回的w, h会有1-2变成喃，导致后续都nan，这块代码能看是bug吗

lilanxiao commented 2 years ago

大佬，我在本地运行就可以，一到服务器上，就显示这个warning: missing return statement at end of non-void function "compare_vertices"，还是可以install，但是运行起来就全部是nan

我没遇到过这个问题。可能是环境不一致导致的。那块CUDA代码写的确实不好，所以我试着在debug branch上把它去掉了。

lilanxiao commented 2 years ago

发现问题所在了，diou中w, h = enclosing_box(corners1, corners2, enclosing_type)，返回的w, h会有1-2变成喃，导致后续都nan，这块代码能看是bug吗

能不能提供触发这个bug的测试代码呢？我没有遇到过这个问题。

LUO77123 commented 2 years ago

发现问题所在了，diou中w, h = enclosing_box(corners1, corners2, enclosing_type)，返回的w, h会有1-2变成喃，导致后续都nan，这块代码能看是bug吗

能不能提供触发这个bug的测试代码呢？我没有遇到过这个问题。

大佬，我是将你的代码替换yolov5的box计算，进行旋转检测，避免nan修改如下 image 但是网络学习不到东西 image

我在尝试一下debug版本，

LUO77123 commented 2 years ago

发现问题所在了，diou中w, h = enclosing_box(corners1, corners2, enclosing_type)，返回的w, h会有1-2变成喃，导致后续都nan，这块代码能看是bug吗

能不能提供触发这个bug的测试代码呢？我没有遇到过这个问题。

iou_loss查了，有一个nan,反查是W里面出现一个nan image 继续查， image 接着是 image 应该是 ----》 proj = point_line_projection_range(lines, points) # (..., 24) 里面有问题