使用ollama模型进行对话时，提示对话接口报错或返回为空

labring / FastGPT

FastGPT is a knowledge-based platform built on the LLMs, offers a comprehensive suite of out-of-the-box capabilities such as data processing, RAG retrieval, and visual AI workflow orchestration, letting you easily develop and deploy complex question-answering systems without the need for extensive setup or configuration.

Other

15.58k stars 4.09k forks source link

例行检查

[ ] 我已确认目前没有类似 issue
[ ] 我已完整查看过项目 README，以及项目文档
[ ] 我使用了自己的 key，并确认我的 key 是可正常使用的
[ ] 我理解并愿意跟进此 issue，协助测试和提供反馈
[x] 我理解并认可上述内容，并理解项目维护者精力有限，不遵循规则的 issue 可能会被无视或直接关闭

你的版本

[ ] 公有云版本
[x] 私有部署版本, 具体版本号:

问题描述, 日志截图 在接入ollama本地模型进行对话时，出现了<对话接口报错或返回为空>的错误，查找了许多文档但是找不到解决办法

在oneapi中，模型通过了测试，也将模型加入到了令牌当中在最初启动容器的时候oneapi的日志 fastgpt的日志以下是我的config的配置内容在进行对话以后，出现了报错，oneapi的日志如下 fastgpt日志如下但在ollama上可以正确运行本地模型现在不知道哪个环节出现了问题，请大佬给出解决方法

labring / FastGPT

使用ollama模型进行对话时，提示对话接口报错或返回为空 #1972

1952 重复 issue