search

xg-chu / CrowdDet

[CVPR 2020] Detection in Crowded Scenes: One Proposal, Multiple Predictions
MIT License
422 stars 85 forks source link

请问在推理阶段如何使用gpu进行计算呢 #48

Closed ZionYuan closed 3 years ago

ZionYuan commented 3 years ago

我使用了如下指令

cd tools
python3 inference.py -md rcnn_fpn_baseline -r 40 -i your_image_path.png

每一张图片的处理时间大约是4秒，我的显卡是3090，按理说不应该这么慢。 所以我想请问下您的代码应该怎么修改才能让他使用gpu。我自己进行了一些修改，但是会卡死。 我的修改：

net = network().cuda(0) # inference函数下的代码
xg-chu commented 3 years ago

这份代码本身默认是使用cpu进行处理的。如果使用gpu处理，需要把模型和数据都移至gpu。

ZionYuan commented 3 years ago

这份代码本身默认是使用cpu进行处理的。如果使用gpu处理，需要把模型和数据都移至gpu。

当我进行迁移时：

#模型部分
net = network()
net.cuda(0)
#数据部分
pred_boxes = net(resized_img.cuda(0), im_info.cuda(0))

这样子修改后程序会卡死，请问下是我的代码有问题吗？另外我的环境确实是您要求的python 3.6.8, pytorch 1.5.0, torchvision 0.6.0, cuda 10.1

xg-chu commented 3 years ago

请问你是使用了哪个模型，我试一下。

ZionYuan commented 3 years ago

请问你是使用了哪个模型，我试一下。

rcnn_emd_simple_mge.pth 这个模型

xg-chu commented 3 years ago

请问你是使用了哪个模型，我试一下。

rcnn_emd_simple_mge.pth 这个模型

我没有观察到卡死的情况....可能需要你自行查找原因了0.0

ZionYuan commented 3 years ago

请问你是使用了哪个模型，我试一下。

rcnn_emd_simple_mge.pth 这个模型

我没有观察到卡死的情况....可能需要你自行查找原因了0.0

请问下大佬是不是只需要修改我上面提到的两个地方就就行了呀，想先确定下代码是不是修改正确

xg-chu commented 3 years ago

请问你是使用了哪个模型，我试一下。

rcnn_emd_simple_mge.pth 这个模型

我没有观察到卡死的情况....可能需要你自行查找原因了0.0

请问下大佬是不是只需要修改我上面提到的两个地方就就行了呀，想先确定下代码是不是修改正确

是的，仅修改了这两个地方。如果CPU可以正常输出结果，GPU加了这两句应该就可以了啊....

ZionYuan commented 3 years ago

请问你是使用了哪个模型，我试一下。

rcnn_emd_simple_mge.pth 这个模型

我没有观察到卡死的情况....可能需要你自行查找原因了0.0

请问下大佬是不是只需要修改我上面提到的两个地方就就行了呀，想先确定下代码是不是修改正确

是的，仅修改了这两个地方。如果CPU可以正常输出结果，GPU加了这两句应该就可以了啊....

确实是这样，我简单的

with torch.cuda.device(1):
        a = torch.tensor([1., 2.]).cuda()

也会卡死。应该还是我环境的问题。多谢大佬！