接入豆包大模型报错了哈

dylanustc commented 2 months ago

例行检查

[ ] 我已确认目前没有类似 issue
[ ] 我已确认我已升级到最新版本
[ ] 我已完整查看过项目 README，尤其是常见问题部分
[ ] 我理解并愿意跟进此 issue，协助测试和提供反馈
[ ] 我理解并认可上述内容，并理解项目维护者精力有限，不遵循规则的 issue 可能会被无视或直接关闭

问题描述 豆包大模型接入不上啊 复现步骤 测试也通不过

预期结果 接入豆包大模型

SpiralTower commented 2 months ago

对于豆包而言，需要手动去模型推理页面创建推理接入点，以接入点名称作为模型名称，例如：ep-20240608051426-tkxvl。

SpiralTower commented 2 months ago

确定推理接入点名称（ep-20XXXXX）已经填入模型列表，在管理渠道页面选择该接入点进行测试（ep-20XXXXX）。如果设置了重定向，建议尽量把接入点和替换的模型名称都填入模型列表，测试时应该只有接入点可以测通，前端调用可以直接调用模型名。

nightzjp commented 3 weeks ago

确定推理接入点名称（ep-20XXXXX）已经填入模型列表，在管理渠道页面选择该接入点进行测试（ep-20XXXXX）。如果设置了重定向，建议尽量把接入点和替换的模型名称都填入模型列表，测试时应该只有接入点可以测通，前端调用可以直接调用模型名。

火山引擎平台创建了推理接入点，然后在one-api里面配置了模型名称doubao-4k，再之后再重定向配置了相应的字典{"doubao-4k": "推理接入点"}。。今天测试提示404了。openai.NotFoundError: Error code: 404 - {'error': {'message': ' (request id: 2024092915070146007720846461234)', 'type': 'upstream_error', 'param': '404', 'code': 'bad_response_status_code'}}

nightzjp commented 3 weeks ago

确定推理接入点名称（ep-20XXXXX）已经填入模型列表，在管理渠道页面选择该接入点进行测试（ep-20XXXXX）。如果设置了重定向，建议尽量把接入点和替换的模型名称都填入模型列表，测试时应该只有接入点可以测通，前端调用可以直接调用模型名。

火山引擎平台创建了推理接入点，然后在one-api里面配置了模型名称doubao-4k，再之后再重定向配置了相应的字典{"doubao-4k": "推理接入点"}。。今天测试提示404了。openai.NotFoundError: Error code: 404 - {'error': {'message': ' (request id: 2024092915070146007720846461234)', 'type': 'upstream_error', 'param': '404', 'code': 'bad_response_status_code'}}

已解决。。api配置的时候不能加后边的那个/api/v3..去掉之后就正常了。

YuChaoM commented 3 weeks ago

我也遇到这个问题，名称哪里填ep-xxx也是不行的

nightzjp commented 3 weeks ago

可以的，我试了，按照截图这样配置的

	seven_nighter

@. | ---- 回复的原邮件 ---- | 发件人 | @.> | | 发送日期 | 2024年09月30日 12:09 | | 收件人 | songquanpeng/one-api @.> | | 抄送人 | @.>, Comment @.***> | | 主题 | Re: [songquanpeng/one-api] 接入豆包大模型报错了哈 (Issue #1706) |

我也遇到这个问题，名称哪里填ep-xxx也是不行的 image.png (view on web)

— Reply to this email directly, view it on GitHub, or unsubscribe. You are receiving this because you commented.Message ID: @.***>

YuChaoM commented 3 weeks ago

估计是我们版本不一样，我是从fastgpt配套安装的

---- 回复的原邮件 ---- | 发件人 | @.> | | 日期 | 2024年09月30日 12:11 | | 收件人 | @.> | | 抄送至 | @.>@.> | | 主题 | Re: [songquanpeng/one-api] 接入豆包大模型报错了哈 (Issue #1706) |

可以的，我试了，按照截图这样配置的

	seven_nighter

@. | ---- 回复的原邮件 ---- | 发件人 | @.> | | 发送日期 | 2024年09月30日 12:09 | | 收件人 | songquanpeng/one-api @.> | | 抄送人 | @.>, Comment @.***> | | 主题 | Re: [songquanpeng/one-api] 接入豆包大模型报错了哈 (Issue #1706) |

我也遇到这个问题，名称哪里填ep-xxx也是不行的 image.png (view on web)

— Reply to this email directly, view it on GitHub, or unsubscribe. You are receiving this because you commented.Message ID: @.***>

SpiralTower commented 3 weeks ago

我也遇到这个问题，名称哪里填ep-xxx也是不行的

不是在名称中填入ep-XX，是在模型中填入ep-XX。 one-api页面测试的时候选择ep-XX测试，配置好重定向之后在应用场景调用doubao-4k（重定向名）

songquanpeng / one-api

接入豆包大模型报错了哈 #1706