ysh329
commented
5 years ago Benchmark
性能还是要测的，由于懒得翻文档，看到有个benchmark的文件夹，点进去就是readme，展示了benchmark的基本用法：简单提一下：/benchncnn [loop count] [num threads] [powersave] [gpu device]，其中各项参数的表格说明如下：
| param | options | default |
|---|---|---|
| loop count | 1~N | 4 |
| num threads | 1~N | max_cpu_count |
| powersave | 0=all cores, 1=little cores only, 2=big cores only | 0 |
| gpu device | -1=cpu-only, 0=gpu0, 1=gpu1 ... | -1 |
感觉用起来蛮简单的，为了一次能测试armv7、armv8、cpu、gpu，我写了如下内容的脚本：
#!/usr/bin/env bash
# init params
HOST_BUILD_PATH_LIST=("build-android-armv7" \
"build-android-aarch64" \
"build-android-armv7-vulkan" \
"build-android-aarch64-vulkan")
#HOST_BUILD_PATH_LIST=("build-android-aarch64-vulkan")
NCNN_DEVICE_PATH="/data/local/tmp/ncnn"
NCNN_LOOP_COUNT="4" #"10"
# cpu setting
NCNN_NUM_THREADS_LIST=("1" "2" "4")
NCNN_POWERSAVE="2"
NCNN_CPU_DEVICE="-1"
# gpu setting
NCNN_CPU_NUM_THREADS_ON_GPU_DEVICE="1"
NCNN_GPU_DEVICE="0"
NCNN_GPU_PATTERN="vulkan"
# push benchmark
adb shell "mkdir ${NCNN_DEVICE_PATH}"
adb push --sync ./benchmark/*.param ${NCNN_DEVICE_PATH}
# run benchmark
for HOST_BUILD_PATH in ${HOST_BUILD_PATH_LIST[@]}; do
echo "---- HOST_BUILD_PATH:${HOST_BUILD_PATH} ----"
adb push --sync ./${HOST_BUILD_PATH}/benchmark/benchncnn ${NCNN_DEVICE_PATH}
if [[ ${HOST_BUILD_PATH} =~ ${NCNN_GPU_PATTERN} ]]
then # do gpu: enable gpu
NCNN_GPU_DEVICE="0"
adb shell "cd ${NCNN_DEVICE_PATH}; ${NCNN_DEVICE_PATH}/benchncnn ${NCNN_LOOP_COUNT} ${NCNN_CPU_NUM_THREADS_ON_GPU_DEVICE} ${NCNN_POWERSAVE} ${NCNN_GPU_DEVICE}"
#echo "adb shell cd ${NCNN_DEVICE_PATH}; ${NCNN_DEVICE_PATH}/benchncnn ${NCNN_LOOP_COUNT} ${NCNN_CPU_NUM_THREADS_ON_GPU_DEVICE} ${NCNN_POWERSAVE} ${NCNN_GPU_DEVICE}"
else # do cpu
for NCNN_NUM_THREADS in ${NCNN_NUM_THREADS_LIST[@]}; do
adb shell "cd ${NCNN_DEVICE_PATH}; ${NCNN_DEVICE_PATH}/benchncnn ${NCNN_LOOP_COUNT} ${NCNN_NUM_THREADS} ${NCNN_POWERSAVE} ${NCNN_CPU_DEVICE}"
#echo "adb shell cd ${NCNN_DEVICE_PATH}; ${NCNN_DEVICE_PATH}/benchncnn ${NCNN_LOOP_COUNT} ${NCNN_NUM_THREADS} ${NCNN_POWERSAVE} ${NCNN_CPU_DEVICE}"
#echo "${NCNN_DEVICE_PATH}/benchncnn ${NCNN_LOOP_COUNT} ${NCNN_NUM_THREADS} ${NCNN_POWERSAVE} ${NCNN_CPU_DEVICE}"
done
fi
echo
done
基本概况
NCNN项目首页的README写的非常清楚：
介绍完之后便是支持的网络说明，这对于业务需要的用户，直接就能看到自己训练的模型是否可以部署，目前是否支持：
紧接着就是文档的条目，从如何编译开始（NV Jetson、X86、Win、Mac、树莓派、ARM A系列、Android、iOS、海思）平台，当然还提供了预编译的库供用户下载使用。后面是一些其他条目的罗列，如：
最后还有Example project，给出几个Android的使用例子，看起来可一键打包成APK。
编译
从release页面下载代码，代码所用版本：release-20190611，根据ncnn主页的readme轻松找到编译文档，很轻松的就完成了编译过程。但我太懒了，看到wiki里写的太多，不过发现根目录下有个
build.sh和package.sh，就直接运行了build.sh，十分钟就完成了里面所有平台的交叉编译，对应所有平台的build文件夹，这个过程体验堪称完美。此时我再打开
build.sh可以看到有下面8个版本：再来看
package.sh，里面有4个版本，看来是每次用来发布打包的脚本：这些基本的体验感觉做的很不错。