请问怎么设置在GPU上推理呢？

DayBreak-u / chineseocr_lite

超轻量级中文ocr，支持竖排文字识别, 支持ncnn、mnn、tnn推理 ( dbnet(1.8M) + crnn(2.5M) + anglenet(378KB)) 总模型仅4.7M

GNU General Public License v2.0

11.84k stars 2.26k forks source link

Open sunyclj opened 2 months ago

sunyclj commented 2 months ago

在GPU上运行，默认没有使用GPU，请问怎么设置在GPU上推理呢？GPU推理是不是更快呢？

sunyclj commented 2 months ago

在GPU上运行，默认没有使用GPU，请问怎么设置在GPU上推理呢？GPU推理是不是更快呢？

补充一下，onnx分支代码