PaddlePaddle / Paddle-Lite

PaddlePaddle High Performance Deep Learning Inference Engine for Mobile and Edge (飞桨高性能深度学习端侧推理引擎)
https://www.paddlepaddle.org.cn/lite
Apache License 2.0
6.98k stars 1.61k forks source link

paddle ocr rec v3 模型推理崩溃(iOS) #10441

Open teletian opened 9 months ago

teletian commented 9 months ago

用 paddle ocr rec v3 模型(opt 2.10 转成 nb 模型),用 paddle lite 2.10 库推理出现如下错误(偶现):

Caused by:Attempted to dereference garbage 0x....

void paddle::lite::arm::math::gemv_int8(signed char const, signed char const,float,bool,int ,int,float const,bool,float const,paddle::lite::operators::ActivationParam,paddle::lite::Context<(paddle::lite_api::TargetType)4>)

zhupengyang commented 9 months ago

可以尝试使用 2.13-rc 版本

engineer1109 commented 9 months ago

IOS端的代码本身就有很多问题(feed和fetch的代码都没写完的地方),我自己也没环境,懒得看了,不建议使用。

engineer1109 commented 9 months ago

IOS负责的程序员应该很早就离职了,想解决只能靠自己了

hong19860320 commented 9 months ago

IOS端的代码本身就有很多问题(feed和fetch的代码都没写完的地方),我自己也没环境,懒得看了,不建议使用。

你说的是 metal ?用户报的错误是 cpu ,完全不搭噶,我不清楚你想表达什么。

hong19860320 commented 9 months ago

用 paddle ocr rec v3 模型(opt 2.10 转成 nb 模型),用 paddle lite 2.10 库推理出现如下错误(偶现):

Caused by:Attempted to dereference garbage 0x....

void paddle::lite::arm::math::gemv_int8(signed char const, signed char const,float,bool,int ,int,float const,bool,float const,paddle::lite::operators::ActivationParam,paddle::lite::Context<(paddle::lite_api::TargetType)4>)

@teletian 可以访问 https://github.com/PaddlePaddle/Paddle-Lite/releases 下载最新的 2.13rc 的库,如果仍然有问题,可以基于 develop 代码参考 https://www.paddlepaddle.org.cn/lite/v2.12/source_compile/macos_compile_ios.html 文档编译 cpu only 的库。