sambanova-ai的逆行api无法进行测速

MartialBE / one-hub

OpenAI 接口管理 & 分发系统，改自songquanpeng/one-api。支持更多模型，加入统计页面，完善非openai模型的函数调用。

https://one-api-martialbe.vercel.app/

Apache License 2.0

996 stars 197 forks source link

Closed huawuhen closed 2 weeks ago

huawuhen commented 2 weeks ago

sambanova-ai逆行后的api在AMA客户端测试正常，添加渠道测速报错 Provider API error: bad response status code 400 但是不影响使用，AMA客户端配置one-hub后照常可以使用sambanova-ai模型

MartialBE commented 2 weeks ago

是否你的逆向不支持非流式请求？不支持的话测试就会报错。你应该和你的供应商那边沟通。只要是符合openai API规范的就不会有问题。

GrayXu commented 2 weeks ago

sambanova的api只支持stream调用，不管是逆向的还是fast_api