songquanpeng / one-api

OpenAI 接口管理 & 分发系统,支持 Azure、Anthropic Claude、Google PaLM 2 & Gemini、智谱 ChatGLM、百度文心一言、讯飞星火认知、阿里通义千问、360 智脑以及腾讯混元,可用于二次分发管理 key,仅单可执行文件,已打包好 Docker 镜像,一键部署,开箱即用. OpenAI key management & redistribution system, using a single API for all LLMs, and features an English UI.
https://openai.justsong.cn/
MIT License
16k stars 3.71k forks source link

针对令牌进行 并发限制 #1505

Open heart18z opened 3 weeks ago

heart18z commented 3 weeks ago

例行检查

功能描述 针对令牌进行 并发限制 应用场景 希望可以增加对令牌并发限制的功能,如果有这个项目就完美了