search

songquanpeng / one-api

OpenAI 接口管理 & 分发系统，支持 Azure、Anthropic Claude、Google PaLM 2 & Gemini、智谱 ChatGLM、百度文心一言、讯飞星火认知、阿里通义千问、360 智脑以及腾讯混元，可用于二次分发管理 key，仅单可执行文件，已打包好 Docker 镜像，一键部署，开箱即用. OpenAI key management & redistribution system, using a single API for all LLMs, and features an English UI.
https://openai.justsong.cn/
MIT License
16.06k stars 3.73k forks source link

用docker离线部署时，总是访问下载cl100k_base.tiktoken #1441

Open rapidappleimage opened 1 month ago

rapidappleimage commented 1 month ago

logs中：failed to get gpt-3.5-turbo token encoder: Get "https://openaipublic.blob.core.windows.net/encodings/cl100k_base.tiktoken":dial tcp: lookup openaipublic.blob.core.windows.net on ......

code-october commented 1 month ago

因为要统计进出请求的token，参考一下这个看能不能解决：https://github.com/songquanpeng/one-api/issues/906#issuecomment-2097877017