OpenAI 接口管理 & 分发系统,支持 Azure、Anthropic Claude、Google PaLM 2 & Gemini、智谱 ChatGLM、百度文心一言、讯飞星火认知、阿里通义千问、360 智脑以及腾讯混元,可用于二次分发管理 key,仅单可执行文件,已打包好 Docker 镜像,一键部署,开箱即用. OpenAI key management & redistribution system, using a single API for all LLMs, and features an English UI.
例行检查
问题描述: 抱歉,小白一个,当使用Azure Open AI时,里面的模型倍率应该怎么调,以便符合微软的token计费,
以下是微软的token收费: GPT-3.5-Turbo-4K- 提示(每 1000 个令牌)-$0.0015- 完成(每 1000 个令牌)-$0.002 GPT-3.5-Turbo-16K- 提示(每 1000 个令牌)-$0.003- 完成(每 1000 个令牌)-$0.004 GPT-4-8K- 提示(每 1000 个令牌)-$0.03- 完成(每 1000 个令牌)-$0.06 GPT-4-32K- 提示(每 1000 个令牌)-$0.06- 完成(每 1000 个令牌)-$0.12
以下应该怎么调?
"gpt-3.5-turbo": 0.75, "gpt-3.5-turbo-0301": 0.75, "gpt-3.5-turbo-0613": 0.75, "gpt-3.5-turbo-16k": 1.5, "gpt-3.5-turbo-16k-0613": 1.5, "gpt-3.5-turbo-instruct": 0.75, "gpt-4": 15, "gpt-4-0314": 15, "gpt-4-0613": 15, "gpt-4-32k": 30, "gpt-4-32k-0314": 30, "gpt-4-32k-0613": 30,
复现步骤
预期结果
相关截图 如果没有的话,请删除此节。