PaddlePaddle / Serving

A flexible, high-performance carrier for machine learning models(『飞桨』服务化部署框架)
Apache License 2.0
893 stars 250 forks source link

启动服务端,加载模型异常 #1548

Closed BeyondYourself closed 6 months ago

BeyondYourself commented 2 years ago

在远程启动服务的时候,在加载模型的时候出现以下异常,在其他服务器上用同样的模型配置,可以正常启动。 求教各位解答,谢谢

image

BeyondYourself commented 2 years ago

image 这个是完整的打印信息

采用wheel离线方式安装的

BeyondYourself commented 2 years ago

另外上述还有一个问题就是采用serving的模型转换代码, image

没有成功转换模型,只是把模型复制了一遍,这个是什么原因呢

TeslaZhao commented 2 years ago

使用的Paddle的版本,以及Serving的版本是?

TeslaZhao commented 2 years ago

转换模型过程有报错吗?

BeyondYourself commented 2 years ago

paddle 和serviing 都是用的最新的稳定版本。模型转换过程没有报错。我在其他服务器上用同样的代码就可以,唯独有一台机器不能转换模型。 服务启动后,抛出上面的一异常,最后还有个很大的core文件生成

TeslaZhao commented 2 years ago

core的信息截图发一下吗?还有这台报错的机器和其他机器有哪些不同呢?

1019058432 commented 2 years ago

@TeslaZhao 您好,我在转换ch_ppocr_server_v2.0_det_infer和ch_ppocr_server_v2.0_rec_infer模型到Serving模型时很顺利,但在启动服务时查看日志rec初始化失败了,请问我该如何操作才能获得正确的模型并且正常启动服务呢? 05AF919C-6A27-462c-818E-15A5C64DDDD3 96B1FE3B-07F9-4c18-AC32-FE8BA2F67C51

BeyondYourself commented 2 years ago

你这个目前是没有找到数据字典,建议字典先配置成绝对路径试试

1019058432 commented 2 years ago

你这个目前是没有找到数据字典,建议字典先配置成绝对路径试试

谢谢,有效。另外向请问inference模型转换到Serving的模型时是否需要修改代码?我启动服务端后查看日志无报错,但在运行http客户端的时候出现了如: https://github.com/PaddlePaddle/Serving/issues/1368#issue-982486235 一样的错误

BeyondYourself commented 2 years ago

你这个目前是没有找到数据字典,建议字典先配置成绝对路径试试

谢谢,有效。另外向请问inference模型转换到Serving的模型时是否需要修改代码?我启动服务端后查看日志无报错,但在运行http客户端的时候出现了如: https://github.com/PaddlePaddle/Serving/issues/1368#issue-982486235 一样的错误

一般模型转换是不需要修改相关的东西,只要把转换路径以及待转换的模型写好即可。你的问题可以发出来看看具体是什么吗,1386这个issue里写的有点杂

1019058432 commented 2 years ago

您好,这是启动http链接后出现的错误信息 D5999AA1-1D6B-4c56-989B-8FA51901EC14 1CE4B8BE-735E-4779-A94F-372704AEE1F1

BeyondYourself commented 2 years ago

您好,这是启动http链接后出现的错误信息 D5999AA1-1D6B-4c56-989B-8FA51901EC14 1CE4B8BE-735E-4779-A94F-372704AEE1F1

这个应该是需要设置你的key吧,paddleserving转换后生成的poto文件中,默认image好像命名为x,你可以将这部分命名统一

1019058432 commented 2 years ago

好的,我试了一下吧服务端web_service.py中的image该成proto文件中的feed_var命名x后确实有变化了,我继续改完试试,非常感谢