songquanpeng / one-api

OpenAI 接口管理 & 分发系统,支持 Azure、Anthropic Claude、Google PaLM 2 & Gemini、智谱 ChatGLM、百度文心一言、讯飞星火认知、阿里通义千问、360 智脑以及腾讯混元,可用于二次分发管理 key,仅单可执行文件,已打包好 Docker 镜像,一键部署,开箱即用. OpenAI key management & redistribution system, using a single API for all LLMs, and features an English UI.
https://openai.justsong.cn/
MIT License
19.35k stars 4.32k forks source link

最新Docker 版本 配置Azure OpenAI报错 #1146

Closed tyler-whz closed 8 months ago

tyler-whz commented 8 months ago

例行检查

问题描述 最新dokcer版本v0.6.2-alpha.11 安装配置open ai官方key和渠道,测试调用OK 。Azure OpenAI 配置地址key测试失败

相关截图

截屏2024-03-14 10 54 18

等5分钟也是同样失败,其实本key一直在使用,已经好几个月了

如果没有的话,请删除此节。

AndyX-Net commented 8 months ago

首先,需要确定一下你是否按照这个说明进行设置?

https://github.com/songquanpeng/one-api/issues/133#issuecomment-1571602271

你可以上传一下你在AOI中模型部署的截图,然后对比一下你在“渠道”里面的截图是否正确。

tyler-whz commented 8 months ago
C6CFD162-899B-40c2-93C9-287BFC4CA6D4 截屏2024-03-14 16 03 39
AndyX-Net commented 8 months ago

首先需要强调的是,这个“部署名”需要按要求写为跟模型名一样的 “gpt-35-turbo”

image

其次,你在ONE-API中要么留“默认API版本为空”,要么设置为最新的“2024-02-15-preview”

然后你在ONE-API里面选自定义模型 gpt-35-turbo就行了。

tyler-whz commented 8 months ago

已经OK

piwawa commented 8 months ago

首先,需要确定一下你是否按照这个说明进行设置?

#133 (comment)

你可以上传一下你在AOI中模型部署的截图,然后对比一下你在“渠道”里面的截图是否正确。

image

image

为啥我用下面这些模型名调用都没有走这个azure渠道,只有用gpt4-turbo才能调用该渠道。

  "gpt-4-0125-preview"
  "gpt-4-turbo-preview"
  "gpt-4"
  "gpt-4-0314"

如果我把这四个也加入 模型 一栏,调用他们就会报错,只能用gpt4-turbo才正常

{
  "error": {
    "message": "The API deployment for this resource does not exist. If you created the deployment within the last 5 minutes, please wait a moment and try again. (request id: 2024031601021351953666050484769)",
    "type": "",
    "param": "",
    "code": "DeploymentNotFound"
  }
}