阿里通义千问 baichuan-7b-v1 模型 stream 接口响应有误

[tisfeng]

例行检查

• [x] 我已确认目前没有类似 issue
• [x] 我已确认我已升级到最新版本
• [x] 我已完整查看过项目 README，尤其是常见问题部分
• [x] 我理解并愿意跟进此 issue，协助测试和提供反馈
• [x] 我理解并认可上述内容，并理解项目维护者精力有限，不遵循规则的 issue 可能会被无视或直接关闭

问题描述

阿里通义千问的 baichuan-7b-v1 模型可能出问题了，使用官方的接口报错 Internal server error。

one-api 使用非 stream 响应是正常的，会报错，但 stream 却不会报错 🥵

复现步骤

预期结果

stream 和 非 stream 都应该报错。

相关截图

阿里官方接口

one-api 非 stream（正常）

one-api stream（异常）

[PureVoyage]

同出现了这个问题，baichuan的接口应该出了什么问题

[songquanpeng]

可以发一下这里的 content type resonse header 吗？

[tisfeng]

请求头感觉应该没问题，除了 baichuan-7b-v1，其他的模型都正常。

curl -s -X POST 'https://dashscope.aliyuncs.com/api/v1/services/aigc/text-generation/generation' \
--header 'Authorization: Bearer xxx' \
--header 'Content-Type: application/json' \
--data-raw '{
    "model": "baichuan-7b-v1",
    "input": {
        "messages": [
            {
                "role": "user",
                "content": "你是谁"
            }
        ]
    }
}' | jq

[songquanpeng]

是响应头里的 content type 哈

[songquanpeng]

阿里对于这个错误返回的是 event-stream。。。

[songquanpeng]

很奇怪，postman 里就是正常的

[songquanpeng]

原来是放到 event 里了。。。

[tisfeng]

是的，开启 SSE 后，响应的 content-type 是 text/event-stream;charset=UTF-8