feat: add support for bytedance's doubao

songquanpeng / one-api

OpenAI 接口管理 & 分发系统，支持 Azure、Anthropic Claude、Google PaLM 2 & Gemini、智谱 ChatGLM、百度文心一言、讯飞星火认知、阿里通义千问、360 智脑以及腾讯混元，可用于二次分发管理 key，仅单可执行文件，已打包好 Docker 镜像，一键部署，开箱即用. OpenAI key management & redistribution system, using a single API for all LLMs, and features an English UI.

https://openai.justsong.cn/

MIT License

18.22k stars 4.12k forks source link

feat: add support for bytedance's doubao #1438

Closed klb3713 closed 3 months ago

klb3713 commented 4 months ago

close #1436

我已确认该 PR 已自测通过，相关截图如下：

zsinba commented 4 months ago

闪退

RexWzh commented 4 months ago

调用和 Azure 类似，是需要部署才能用对吗？

是的话，这段配置好像就没意义了，curl 命令里也没用到模型

var ModelList = []string{
    "Doubao-pro-128k",
    "Doubao-pro-32k",
    "Doubao-pro-4k",
    "Doubao-lite-128k",
    "Doubao-lite-32k",
    "Doubao-lite-4k",
    "Doubao-embedding",
}

另外, 你代码好像只改了 ChatCompletions 的 URI。

if meta.Mode == relaymode.ChatCompletions {
        return fmt.Sprintf("%s/api/v3/chat/completions", meta.BaseURL), nil
    }

c121914yu commented 4 months ago

我建议给oneapi增加一个 /chat/complections 的路由，而不只有 /v1/chat/completions 的路由。豆包的接口对齐了 openai，，完全可以直接通过代理转发解决~

XiandanErizo commented 4 months ago

mark一下合并了我也更新下

songquanpeng commented 4 months ago

上周末完全没时间，我尽量最近处理

Lands-1203 commented 3 months ago

请问这个docker发布了吗？版本：v0.6.7-alpha.3没看见豆包的模型列表

songquanpeng commented 3 months ago

已合并，感谢各位

songquanpeng commented 3 months ago

v0.6.7-alpha.4

Lands-1203 commented 3 months ago

@songquanpeng 似乎不行呢？我是用postman正常发送，使用oneapi就不行，不管是使用代理的方式还是直接的方式都不行

Lands-1203 commented 3 months ago

一直提示react_devtools_backend_compact.js:12955 do request failed: Post "https://ark.cn-beijing.volces.com/api/v3/chat/completions": dial tcp 101.126.3.201:443: i/o timeout