ollama部署qwen2:7b api调用报错

[wxiaoxiaow]

例行检查

• [ ] 我已确认目前没有类似 issue
• [x] 我已确认我已升级到最新版本
• [x] 我已完整查看过项目 README，尤其是常见问题部分
• [x] 我理解并愿意跟进此 issue，协助测试和提供反馈
• [x] 我理解并认可上述内容，并理解项目维护者精力有限，不遵循规则的 issue 可能会被无视或直接关闭

问题描述 使用ollama本地部署qwen2:7b，one-api测试成功，使用next-chat对话时出现报错： { "error": true, "message": "empty response from server" } one-api日志报错： [SYS] 2024/07/13 - 14:48:42 | error unmarshalling stream response: invalid character '}' after top-level value [SYS] 2024/07/13 - 14:48:42 | error unmarshalling stream response: invalid character '}' after top-level value [SYS] 2024/07/13 - 14:48:42 | error unmarshalling stream response: invalid character '}' after top-level value [SYS] 2024/07/13 - 14:48:42 | error unmarshalling stream response: invalid character '}' after top-level value [SYS] 2024/07/13 - 14:48:42 | error unmarshalling stream response: invalid character '}' after top-level value [SYS] 2024/07/13 - 14:48:42 | error unmarshalling stream response: invalid character '}' after top-level value [SYS] 2024/07/13 - 14:48:42 | error unmarshalling stream response: invalid character '}' after top-level value [SYS] 2024/07/13 - 14:48:42 | error unmarshalling stream response: invalid character '}' after top-level value [SYS] 2024/07/13 - 14:48:42 | error unmarshalling stream response: invalid character '}' after top-level value 复现步骤

预期结果

相关截图

[kouwenguang]

降低版本到0.6.6或以下版本可以解决。

[Luck0o0]

降低版本到0.6.6或以下版本可以解决。

确实是的，降级就好了，这个问题太。。。。

[AndyX-Net]

确实，不晓得后续版本能修复这个问题不： one-api | [SYS] 2024/07/19 - 01:49:29 | One API v0.6.8-alpha.5 started

目前已经返回6.6版本：

[wxiaoxiaow]

降低版本到0.6.6或以下版本可以解决。

前几天退到0.67版本可以正常调用。这个问题有点奇葩了

[rick903]

已解决，渠道类型不用 ollama，而是选择 自定义 类型即可避免上述报错，不需要退版本，当前版本使用v0.6.8-alpha.6。

[yegetables]

是的,直接使用ollama会有这样报错,改成自定义渠道即可.或者降级到0.67版本

[BBM-Freehub]

已解决，渠道类型不用 ollama，而是选择 自定义 类型即可避免上述报错，不需要退版本，当前版本使用v0.6.8-alpha.6。

确认使用自定义可以。