search

MartialBE / one-hub

OpenAI 接口管理 & 分发系统，改自songquanpeng/one-api。支持更多模型，加入统计页面，完善非openai模型的函数调用。
https://one-hub.xiao5.info/
Apache License 2.0
1.13k stars 229 forks source link

求完善一个渠道自动禁用的功能 #290

Closed jqlts1 closed 3 months ago

jqlts1 commented 3 months ago

目前的渠道禁用的逻辑是这样的

image

渠道如果被禁用以后,还会再被使用? 我觉得正确的逻辑应该是:

  1. 渠道连续失败累积到一定次数以后禁用
  2. 如果第一次失败,第二次成功,这种就不要禁用

因为现在大部分的厂家,都有控频设置,如果频率过高,也会失败,或是因为网络问题也有可能会失败,但是你再过一会就成功了,这种就不应该被禁用掉

MartialBE commented 3 months ago

这里的失败 不是请求不成功就禁用 而是会判断错误类型的。 速率达到上限不会被禁用。 详情请看controller/common.go

jqlts1 commented 3 months ago

这里的失败 不是请求不成功就禁用 而是会判断错误类型的。 速率达到上限不会被禁用。 详情请看controller/common.go

是全渠道都会自动判断类型吗？

MartialBE commented 3 months ago

应该没有覆盖到全渠道方面。根据错误信息关键字来去匹配。 这里逻辑是原one api的逻辑