wangzhaode / mnn-llm

llm deploy project based mnn.
Apache License 2.0
1.41k stars 154 forks source link

clone 了最新的代码, 然后安装了apk,下载了模型,然后push进去了,app闪退了 #214

Open 1eas7 opened 2 weeks ago

1eas7 commented 2 weeks ago

做了以下步骤: 1、克隆了最新代码 2、apk编译成功 3、git clone https://www.modelscope.cn/zhaode/Qwen-1_8B-Chat-MNN.git 把模型复制下来了 4、adb push ./Qwen-1_8B-Chat-MNN /data/local/tmp/mnn-llm/ 5、然后运行选择这个文件夹闪退了,点加载以后闪退了 image

是忘记哪个步骤了吗? 模型要在转换一次吗?

1eas7 commented 2 weeks ago

报错信息 image

FranzKafkaYu commented 2 weeks ago

仓库里的Android App打包存在问题,会导致mnn相关依赖库未打包至apk,个人建议是将JNI与mnn依赖库分开编译进行打包。

poached-egg commented 1 week ago

仓库里的Android App打包存在问题,会导致mnn相关依赖库未打包至apk,个人建议是将JNI与mnn依赖库分开编译进行打包。

你好,请问怎么分开编译打包

FranzKafkaYu commented 1 week ago

仓库里的Android App打包存在问题,会导致mnn相关依赖库未打包至apk,个人建议是将JNI与mnn依赖库分开编译进行打包。

你好,请问怎么分开编译打包

在JNI层添加新的CMake配置,将MNN依赖库进行导入。

1eas7 commented 1 week ago

仓库里的Android App打包存在问题,会导致mnn相关依赖库未打包至apk,个人建议是将JNI与mnn依赖库分开编译进行打包。

你好,请问怎么分开编译打包

在JNI层添加新的CMake配置,将MNN依赖库进行导入。

CMake配置要怎么写呢? 可以参考git的历史记录吗?