songquanpeng / one-api

OpenAI 接口管理 & 分发系统,支持 Azure、Anthropic Claude、Google PaLM 2 & Gemini、智谱 ChatGLM、百度文心一言、讯飞星火认知、阿里通义千问、360 智脑以及腾讯混元,可用于二次分发管理 key,仅单可执行文件,已打包好 Docker 镜像,一键部署,开箱即用. OpenAI key management & redistribution system, using a single API for all LLMs, and features an English UI.
https://openai.justsong.cn/
MIT License
18.22k stars 4.12k forks source link

当使用Azure Open AI时应该怎么调模型倍率以便符合微软的token计费? #620

Open gitbloodwolf opened 11 months ago

gitbloodwolf commented 11 months ago

例行检查

问题描述: 抱歉,小白一个,当使用Azure Open AI时,里面的模型倍率应该怎么调,以便符合微软的token计费,

以下是微软的token收费: GPT-3.5-Turbo-4K- 提示(每 1000 个令牌)-$0.0015- 完成(每 1000 个令牌)-$0.002 GPT-3.5-Turbo-16K- 提示(每 1000 个令牌)-$0.003- 完成(每 1000 个令牌)-$0.004 GPT-4-8K- 提示(每 1000 个令牌)-$0.03- 完成(每 1000 个令牌)-$0.06 GPT-4-32K- 提示(每 1000 个令牌)-$0.06- 完成(每 1000 个令牌)-$0.12

以下应该怎么调?

"gpt-3.5-turbo": 0.75, "gpt-3.5-turbo-0301": 0.75, "gpt-3.5-turbo-0613": 0.75, "gpt-3.5-turbo-16k": 1.5, "gpt-3.5-turbo-16k-0613": 1.5, "gpt-3.5-turbo-instruct": 0.75, "gpt-4": 15, "gpt-4-0314": 15, "gpt-4-0613": 15, "gpt-4-32k": 30, "gpt-4-32k-0314": 30, "gpt-4-32k-0613": 30,

复现步骤

预期结果

相关截图 如果没有的话,请删除此节。

Andiedie commented 11 months ago

Azure 的定价和 OpenAI 是一致的吧,不需要做调整