search

FeiYull / TensorRT-Alpha

🔥🔥🔥TensorRT for YOLOv8、YOLOv8-Pose、YOLOv8-Seg、YOLOv8-Cls、YOLOv7、YOLOv6、YOLOv5、YOLONAS......🚀🚀🚀CUDA IS ALL YOU NEED.🍎🍎🍎
GNU General Public License v2.0
1.26k stars 196 forks source link

显卡配置 #72

Open jiamfeng opened 6 months ago

jiamfeng commented 6 months ago

服务器有4张显卡，如何通过修改代码可以达到来指定显卡进行推理？

FeiYull commented 6 months ago

@jiamfeng 参考:在使用PyTorch的时候，是如何将数据拷贝到不同gpu

jiamfeng commented 6 months ago

@jiamfeng 参考:在使用PyTorch的时候，是如何将数据拷贝到不同gpu

可能我没表达清楚意思，我问的是TensorRT C++推理trt模型的时候如何设置，因为我设置了但是报错了。

Snipaste_2024-01-17_16-34-50 ![Uploading Snipaste_2024-01-17_16-35-39.png…]()

FeiYull commented 6 months ago

@jiamfeng 没有实操过

jiamfeng commented 6 months ago

@jiamfeng 没有实操过

哦，好吧，我目前是设置gpu_id=0是正常的，但是gpu_id=1就报错了，不清楚是什么问题导致的。有其他大佬可以指导下吗？

Leoyed commented 4 months ago

楼主解决这个问题了吗？我也遇到相同问题，想问下怎么解决

Leoyed commented 4 months ago

@jiamfeng 没有实操过

哦，好吧，我目前是设置gpu_id=0是正常的，但是gpu_id=1就报错了，不清楚是什么问题导致的。有其他大佬可以指导下吗？

在main函数和init里同时设置cudaSetDevice就可以了