search

leafqycc / rknn-multi-threaded

A simple demo of yolov5s running on rk3588/3588s using Python (about 72 frames). / 一个使用Python在rk3588/3588s上运行的yolov5s简单demo(大约72帧/s)。
Apache License 2.0
229 stars 40 forks source link

from rknnpool import rknnPoolExecutor #4

Closed analwang closed 1 year ago

analwang commented 1 year ago

想问一下为什么不是from rknnlite.api import RKNNLite or from rknn.api import RKNN像这样的?还是这意味它包含它们? 还有rknpu和rknnlite之间是什么关系?希望得到你的答案xiexie

leafqycc commented 1 year ago

想问一下为什么不是from rknnlite.api import RKNNLite or from rknn.api import RKNN像这样的?还是这意味它包含它们? 还有rknpu和rknnlite之间是什么关系?希望得到你的答案xiexie

包含关系，rknnpool是指rknnpool.py文件，我使用线程池ThreadPoolExecutor对rknn模型进行池化，并以此构建rknnPoolExecutor类,以降低rknn模型在多线程下频繁初始化的资源开销

leafqycc commented 1 year ago

想问一下为什么不是from rknnlite.api import RKNNLite or from rknn.api import RKNN像这样的?还是这意味它包含它们? 还有rknpu和rknnlite之间是什么关系?希望得到你的答案xiexie

简单来看的话，rknn框架的c++库是rknpu， python库是rknnlite，二者本质上是一样的，只有性能等略微的区别