search

songquanpeng / one-api

OpenAI 接口管理 & 分发系统，支持 Azure、Anthropic Claude、Google PaLM 2 & Gemini、智谱 ChatGLM、百度文心一言、讯飞星火认知、阿里通义千问、360 智脑以及腾讯混元，可用于二次分发管理 key，仅单可执行文件，已打包好 Docker 镜像，一键部署，开箱即用. OpenAI key management & redistribution system, using a single API for all LLMs, and features an English UI.
https://openai.justsong.cn/
MIT License
16k stars 3.71k forks source link

能不能加上tiktoken的离线加载 #1488

Closed moslunix closed 6 days ago

moslunix commented 1 month ago

配置CACHE实际上调用titoken是不生效的，需要调用titoken的离线加载功能才行，titoken默认是从网络加载库到内存的

moslunix commented 1 month ago

或者说一下离线加载那些文件应该怎样命名？

c121914yu commented 1 month ago

readme 环境变量有说明，能联网环境下把编码下载下来，然后复制到离线就可以了