PaddlePaddle / PaddleOCR

Awesome multilingual OCR toolkits based on PaddlePaddle (practical ultra lightweight OCR system, support 80+ languages recognition, provide data annotation and synthesis tools, support training and deployment among server, mobile, embedded and IoT devices)
https://paddlepaddle.github.io/PaddleOCR/
Apache License 2.0
44.66k stars 7.86k forks source link

关于模型量化的一些疑问 #9786

Closed justcodew closed 10 months ago

justcodew commented 1 year ago

看了你们提供的一个车牌识别案例:轻量级车牌识别.md image

并做了一些测试,有一些疑问:

1.量化后的模型大小和速度具体是如何测试的,是否一定要在端侧转换为nb模型文件才能对比出int8的加速效果 2.不在端侧部署,在服务端如何测试验证int8的加速效果 3.在线量化训练acc为0,之前这个issue也出现过 4.车牌这个场景轻量化识别模型你们使用的是SVTR,是否对比过CRNN的效果 5.量化训练后的模型如何转换trt的engine文件,有没有相关的资料介绍,我是否可以使用paddle2onnx将量化训练的模型转化为uonnx文件后再转化为trt模型文件

感谢

github-actions[bot] commented 11 months ago

This issue has been automatically marked as stale because it has not had recent activity. It will be closed in 7 days if no further activity occurs. Thank you for your contributions.

hellohahaw commented 7 months ago

看了你们提供的一个车牌识别案例:轻量级车牌识别.md image

并做了一些测试,有一些疑问:

1.量化后的模型大小和速度具体是如何测试的,是否一定要在端侧转换为nb模型文件才能对比出int8的加速效果 2.不在端侧部署,在服务端如何测试验证int8的加速效果 3.在线量化训练acc为0,之前这个issue也出现过 4.车牌这个场景轻量化识别模型你们使用的是SVTR,是否对比过CRNN的效果 5.量化训练后的模型如何转换trt的engine文件,有没有相关的资料介绍,我是否可以使用paddle2onnx将量化训练的模型转化为uonnx文件后再转化为trt模型文件

请问svtr对双行车牌的识别效果怎么样,您尝试过吗?