help!调用多模态模型MiniCPM-Llama3-V-2_5异常

labring / FastGPT

FastGPT is a knowledge-based platform built on the LLMs, offers a comprehensive suite of out-of-the-box capabilities such as data processing, RAG retrieval, and visual AI workflow orchestration, letting you easily develop and deploy complex question-answering systems without the need for extensive setup or configuration.

Other

16.92k stars 4.52k forks source link

例行检查

[x] 我已确认目前没有类似 issue
[x] 我已完整查看过项目 README，以及项目文档
[x] 我使用了自己的 key，并确认我的 key 是可正常使用的
[x] 我理解并愿意跟进此 issue，协助测试和提供反馈
[x] 我理解并认可上述内容，并理解项目维护者精力有限，不遵循规则的 issue 可能会被无视或直接关闭

你的版本

[ ] 公有云版本
[x] 私有部署版本, 具体版本号: v4.81

问题描述, 日志截图 在调用多模态模型MiniCPM-Llama3-V-2_5时，文字聊天正常，打开vision后上传图片时,报错：Service Unavailable503，请问要如何设置才能正确使用，这个问题困扰我好几日，非常需要帮助 config设置如下：

复现步骤

预期结果

相关截图

labring / FastGPT

help!调用多模态模型MiniCPM-Llama3-V-2_5异常 #1616