songquanpeng / one-api

OpenAI 接口管理 & 分发系统,支持 Azure、Anthropic Claude、Google PaLM 2 & Gemini、智谱 ChatGLM、百度文心一言、讯飞星火认知、阿里通义千问、360 智脑以及腾讯混元,可用于二次分发管理 key,仅单可执行文件,已打包好 Docker 镜像,一键部署,开箱即用. OpenAI key management & redistribution system, using a single API for all LLMs, and features an English UI.
https://openai.justsong.cn/
MIT License
18.79k stars 4.22k forks source link

使用GPT-4-1106-Preview、GPT-35-Turbo-1106时报错 #755

Open C-Dragon8 opened 11 months ago

C-Dragon8 commented 11 months ago

例行检查

问题描述 Azure OpenAI,在不同区域(US、UK、CA)部署了GPT-4-1106-Preview、GPT-35-Turbo-1106模型,添加至one-api渠道中可以测试通过,但通过ChatGPT Next使用时聊天框弹出错误信息。 不同区域(US、UK、CA)部署的GPT-4、GPT-3.5以往版本都能正常使用。

错误信息: { "error": { "message": "The API deployment for this resource does not exist. If you created the deployment within the last 5 minutes, please wait a moment and try again. (request id: )", "type": "", "param": "", "code": "DeploymentNotFound" } }

相关截图 image

ivanberry commented 11 months ago

你deployname 咋写的?

渠道配置你的默认 API 版本 是怎么写的, 我1106 也是提示500

C-Dragon8 commented 11 months ago

你deployname 咋写的?

渠道配置你的默认 API 版本 是怎么写的, 我1106 也是提示500

我空着没填,我看默认获取的应该是2023-06-01-Preview,不懂

ivanberry commented 10 months ago

你搞定azure gpt4 1106模型的使用了吗?

xjune123 commented 10 months ago

我同样有这样问题,就是回答吐字后,就报错了,模型是gpt4 1106 azure

C-Dragon8 commented 10 months ago

我还没解决这个问题,等待作者答复吧

mkdirmushroom commented 10 months ago

API 版本改成2023-12-01-Preview

C-Dragon8 commented 10 months ago

我将默认API版本改成2023-12-01-Preview后,使用GPT-4-1106-Preview、GPT-35-Turbo-1106模型时仍然报错,错误信息: { "error": { "message": "Resource not found (request id: 20231212143149527931489jxBFD)", "type": "", "param": "", "code": "404" } }

各位兄弟有遇到吗?

mkdirmushroom commented 10 months ago

我将默认API版本改成2023-12-01-Preview后,使用GPT-4-1106-Preview、GPT-35-Turbo-1106模型时仍然报错,错误信息: { "error": { "message": "Resource not found (request id: 20231212143149527931489jxBFD)", "type": "", "param": "", "code": "404" } }

各位兄弟有遇到吗?

你可以检查下你的部署名称以及 one-api 中是否勾选相关模型,以及前端实际请求的模型名称。

C-Dragon8 commented 10 months ago

我将默认API版本改成2023-12-01-Preview后,使用GPT-4-1106-Preview、GPT-35-Turbo-1106模型时仍然报错,错误信息: { "error": { "message": "Resource not found (request id: 20231212143149527931489jxBFD)", "type": "", "param": "", "code": "404" } } 各位兄弟有遇到吗?

你可以检查下你的部署名称以及 one-api 中是否勾选相关模型,以及前端实际请求的模型名称。

我检查了在Azure的部署信息,部署区域在Canada East,应该是没问题的,麻烦您也帮我看下: image

one-api中我选择的是填入所有模型,API版本是2023-12-01-Preview,应该也是没问题的。

前端实际请求的模型采用gpt-4、gpt-3.5此前的版本,例如0613,都是没问题的;但一旦选择了GPT-4-1106-Preview、GPT-35-Turbo-1106模型时就会报错。

listeng commented 10 months ago

one-api里面,名称填gpt4,重定向写{"gpt-4": "gpt4"},我给fastgpt能用

C-Dragon8 commented 10 months ago

one-api里面,名称填gpt4,重定向写{"gpt-4": "gpt4"},我给fastgpt能用

我按您的方法试了下,扔报如下错误: { "error": { "message": "The API deployment for this resource does not exist. If you created the deployment within the last 5 minutes, please wait a moment and try again. (request id: )", "type": "", "param": "", "code": "DeploymentNotFound" } }

mkdirmushroom commented 10 months ago

我将默认API版本改成2023-12-01-Preview后,使用GPT-4-1106-Preview、GPT-35-Turbo-1106模型时仍然报错,错误信息: { "error": { "message": "Resource not found (request id: 20231212143149527931489jxBFD)", "type": "", "param": "", "code": "404" } } 各位兄弟有遇到吗?

你可以检查下你的部署名称以及 one-api 中是否勾选相关模型,以及前端实际请求的模型名称。

我检查了在Azure的部署信息,部署区域在Canada East,应该是没问题的,麻烦您也帮我看下: image

one-api中我选择的是填入所有模型,API版本是2023-12-01-Preview,应该也是没问题的。

前端实际请求的模型采用gpt-4、gpt-3.5此前的版本,例如0613,都是没问题的;但一旦选择了GPT-4-1106-Preview、GPT-35-Turbo-1106模型时就会报错。

你的部署名称错了,若要匹配 one-api,模型版本为 1106 的3.5名称应该为gpt-35-turbo-1106,gpt4同理

mkdirmushroom commented 10 months ago

我将默认API版本改成2023-12-01-Preview后,使用GPT-4-1106-Preview、GPT-35-Turbo-1106模型时仍然报错,错误信息: { "error": { "message": "Resource not found (request id: 20231212143149527931489jxBFD)", "type": "", "param": "", "code": "404" } } 各位兄弟有遇到吗?

你可以检查下你的部署名称以及 one-api 中是否勾选相关模型,以及前端实际请求的模型名称。

我检查了在Azure的部署信息,部署区域在Canada East,应该是没问题的,麻烦您也帮我看下: image

one-api中我选择的是填入所有模型,API版本是2023-12-01-Preview,应该也是没问题的。

前端实际请求的模型采用gpt-4、gpt-3.5此前的版本,例如0613,都是没问题的;但一旦选择了GPT-4-1106-Preview、GPT-35-Turbo-1106模型时就会报错。

按照你目前的部署来看,前端模型如果选择 gpt-3.5-turbo指向的就是1106 版本的模型,gpt-4 也是同理。

C-Dragon8 commented 10 months ago

我将默认API版本改成2023-12-01-Preview后,使用GPT-4-1106-Preview、GPT-35-Turbo-1106模型时仍然报错,错误信息: { "error": { "message": "Resource not found (request id: 20231212143149527931489jxBFD)", "type": "", "param": "", "code": "404" } } 各位兄弟有遇到吗?

你可以检查下你的部署名称以及 one-api 中是否勾选相关模型,以及前端实际请求的模型名称。

我检查了在Azure的部署信息,部署区域在Canada East,应该是没问题的,麻烦您也帮我看下: image one-api中我选择的是填入所有模型,API版本是2023-12-01-Preview,应该也是没问题的。 前端实际请求的模型采用gpt-4、gpt-3.5此前的版本,例如0613,都是没问题的;但一旦选择了GPT-4-1106-Preview、GPT-35-Turbo-1106模型时就会报错。

按照你目前的部署来看,前端模型如果选择 gpt-3.5-turbo指向的就是1106 版本的模型,gpt-4 也是同理。

感谢您的解答。

如果我直接选择gpt-3.5-turbo或gpt-4,没有报错,我问了GPT“你有2023年的数据吗”类似的问题,GPT回答数据截止到2021年9月。这是有问题的。

我在one-api里面设置的API版本是2023-12-01-preview

mkdirmushroom commented 10 months ago

我将默认API版本改成2023-12-01-Preview后,使用GPT-4-1106-Preview、GPT-35-Turbo-1106模型时仍然报错,错误信息: { "error": { "message": "Resource not found (request id: 20231212143149527931489jxBFD)", "type": "", "param": "", "code": "404" } } 各位兄弟有遇到吗?

你可以检查下你的部署名称以及 one-api 中是否勾选相关模型,以及前端实际请求的模型名称。

我检查了在Azure的部署信息,部署区域在Canada East,应该是没问题的,麻烦您也帮我看下: image one-api中我选择的是填入所有模型,API版本是2023-12-01-Preview,应该也是没问题的。 前端实际请求的模型采用gpt-4、gpt-3.5此前的版本,例如0613,都是没问题的;但一旦选择了GPT-4-1106-Preview、GPT-35-Turbo-1106模型时就会报错。

按照你目前的部署来看,前端模型如果选择 gpt-3.5-turbo指向的就是1106 版本的模型,gpt-4 也是同理。

感谢您的解答。

如果我直接选择gpt-3.5-turbo或gpt-4,没有报错,我问了GPT“你有2023年的数据吗”类似的问题,GPT回答数据截止到2021年9月。这是有问题的。

我在one-api里面设置的API版本是2023-12-01-preview

作为测试,你可以在 one-api 只留一个 gpt-4,因为只有gpt-4-1106-preview才有 23 年4 月之前的数据。 你可以用如下 prompt 测试,这在我这边是可以的:“你的数据截止到什么时候?” 如果还是不行,建议你将部署名称修改为gpt-4-1106-preview,one-api勾选此模型。

C-Dragon8 commented 10 months ago

mkdirmushroom

好的,多谢大佬!

eyangs commented 10 months ago

解决了吗?我也是调用azure openai api 报错code 404 one-api设置 image image 调用one-api代码 image azure上的部署名称 image 用openai的库调用是可以的 image

hansedong commented 9 months ago

I encountered the same problem, spent half a day without solving it. Personally, I think that one-api has some blind spots that users encounter in the process of converting from the openai interface format to the azure api format. Is it possible to add a product design like opencat that directly obtains the model that has been opened and set up by Azure and automatically fills it in?

ivanberry commented 7 months ago

折腾来半天终于搞好了

image image image

只能通过【模型重定向】配置来处理了。

vary commented 7 months ago

重定向的前提是两个模型都在上面有选择,这点很重要,之前一直不成功