search

Tencent / ncnn

ncnn is a high-performance neural network inference framework optimized for the mobile platform
Other
20.33k stars 4.16k forks source link

在64核机器上跑ncnn模型，运行时只会调用其中一个核，设置哪些参数能跑指定数量的cpu核心 #5412

Open mmdzzh opened 6 months ago

mmdzzh commented 6 months ago

如题，设置ncnn.set_omp_num_threads和net.opt.num_threads都没有效果，采用绑核的方式也没办法调用多个核，系统环境为aarch64

wzyforgit commented 6 months ago

你是跑的什么模型？有些算子是只能串行处理的 另外你可以用openmp起多个extractor来进行多batch并行推理