PaddlePaddle / PaddleCustomDevice

PaddlePaddle custom device implementaion. (『飞桨』自定义硬件接入实现)
Apache License 2.0
59 stars 130 forks source link

怎么利用寒武纪mlu卡进行paddleocr检测和识别 #1314

Open wujf147 opened 6 days ago

wujf147 commented 6 days ago

各位老师好,我已按照官网流程进行paddle安装和编译,利用test_lenet_minst.py测试也没有问题;后续我安装了paddleocr想进行检测和识别,但是显示只能使用cpu版本的进行推理,请问怎么使用寒武纪的显卡进行检测和识别呢,需要修改哪些东西?另外在使用docker run时如果使用gpu可以指定--gpus all,类似的在寒武纪mlu可以指定显卡设备吗?paddleocr推理如下所示: git_issue1

YanhuiDua commented 6 days ago

你好,建议把你运行的命令也贴出来

PaddleOCR中指定使用mlu进行计算的方式为:使用“--use_mlu=True”,代码见https://github.com/PaddlePaddle/PaddleOCR/blob/433677182f108c1be413ee8a92815bc13b205737/tools/infer/utility.py#L45

wujf147 commented 6 days ago

你好,建议把你运行的命令也贴出来

PaddleOCR中指定使用mlu进行计算的方式为:使用“--use_mlu=True”,代码见https://github.com/PaddlePaddle/PaddleOCR/blob/433677182f108c1be413ee8a92815bc13b205737/tools/infer/utility.py#L45

我使用的命令是paddleocr --image_dir /app/idcard1.jpg --use_angle_cls true --lang ch --use_mlu true进行推理,已在utility.py中加入参数,请问在哪里修改use_mlu的实现呢

YanhuiDua commented 5 days ago

加了 --use_mlu true后,有跑在mlu上吗?

wujf147 commented 5 days ago

加了 --use_mlu true后,有跑在mlu上吗?

老师您好,我目前是在utility.py的参数中加上了--ues_mlu true,但是应该还需要在paddleocr进行预测的时候修改代码?具体是在哪个地方修改呢

wujf147 commented 5 days ago

加了 --use_mlu true后,有跑在mlu上吗?

老师您好,我之前是在以前拉的paddleocr2.5的代码上添加的--use_mlu,版本和您发的版本不一样,所以理解需要补充代码,如果用您这个版本的应该可以直接运行。另外还有个问题,比如我在寒武纪服务器上运行docker时,想启用寒武纪显卡进行docker run,应该怎么设置参数或者补充代码呢,类似nvidia的显卡可以使用docker run -e CUDA_VISIBLE_DEVICES=0这种?

YanhuiDua commented 5 days ago

你好,设置可以用的设备 MLU_VISIBLE_DEVICES 来选择设备;ppocr的运行命令我再确认下哈

YanhuiDua commented 5 days ago

ppocr运行在mlu上需要修改PaddleOCR的代码,代码修改后我会把PR发在这里

wujf147 commented 5 days ago

ppocr运行在mlu上需要修改PaddleOCR的代码,代码修改后我会把PR发在这里

好的,谢谢老师

YanhuiDua commented 4 days ago

https://github.com/PaddlePaddle/PaddleOCR/pull/13197/files

YanhuiDua commented 3 days ago

你好,运行还有其他问题吗