Tencent / ncnn

ncnn is a high-performance neural network inference framework optimized for the mobile platform
Other
20.6k stars 4.18k forks source link

android 下use_vulkan_compute = true推理 yolox 错误 #3693

Open qwaiz opened 2 years ago

qwaiz commented 2 years ago

error log | 日志或报错信息 | ログ

在android下 use_vulkan_compute = true 推理 yolox small 推理结果混乱,推理出来很多框,且每个框的分数都是 好几千。

但, android下use_vulkan_compute = true 推理 yolox-nano 结果正确。 android下use_vulkan_compute = false 推理 yolox-nano 与 yolox small 结果都正确。

context | 编译/运行环境 | バックグラウンド

使用的 ncnn-20220216-android-vulkan 与 ncnn-20210720-android-vulkan 均出现同样问题

how to reproduce | 复现步骤 | 再現方法

1. 2. 3.

more | 其他 | その他

qwaiz commented 2 years ago

上面的bug在红米note 8 上不存在

qwaiz commented 2 years ago

在一款 高通 SDM450 GLES: Qualcomm, Adreno (TM) 506, OpenGL ES 3.2 V@269.0 (GIT@eb83d64, If935a9dc37) (Date:09/24/18) android 8.1.0 的设备上会有以上问题