使用GPT-4-1106-Preview、GPT-35-Turbo-1106时报错

songquanpeng / one-api

OpenAI 接口管理 & 分发系统，支持 Azure、Anthropic Claude、Google PaLM 2 & Gemini、智谱 ChatGLM、百度文心一言、讯飞星火认知、阿里通义千问、360 智脑以及腾讯混元，可用于二次分发管理 key，仅单可执行文件，已打包好 Docker 镜像，一键部署，开箱即用. OpenAI key management & redistribution system, using a single API for all LLMs, and features an English UI.

https://openai.justsong.cn/

MIT License

18.79k stars 4.22k forks source link

使用GPT-4-1106-Preview、GPT-35-Turbo-1106时报错 #755

Open C-Dragon8 opened 11 months ago

C-Dragon8 commented 11 months ago

例行检查

[√] 我已确认目前没有类似 issue
[√ ] 我已确认我已升级到最新版本
[√ ] 我已完整查看过项目 README，尤其是常见问题部分
[√ ] 我理解并愿意跟进此 issue，协助测试和提供反馈
[√ ] 我理解并认可上述内容，并理解项目维护者精力有限，不遵循规则的 issue 可能会被无视或直接关闭

问题描述 Azure OpenAI，在不同区域（US、UK、CA）部署了GPT-4-1106-Preview、GPT-35-Turbo-1106模型，添加至one-api渠道中可以测试通过，但通过ChatGPT Next使用时聊天框弹出错误信息。不同区域（US、UK、CA）部署的GPT-4、GPT-3.5以往版本都能正常使用。

错误信息： { "error": { "message": "The API deployment for this resource does not exist. If you created the deployment within the last 5 minutes, please wait a moment and try again. (request id: )", "type": "", "param": "", "code": "DeploymentNotFound" } }

相关截图

ivanberry commented 11 months ago

你deployname 咋写的？

渠道配置你的默认 API 版本是怎么写的，我1106 也是提示500

C-Dragon8 commented 11 months ago

你deployname 咋写的？

渠道配置你的默认 API 版本是怎么写的，我1106 也是提示500

我空着没填，我看默认获取的应该是2023-06-01-Preview，不懂

ivanberry commented 10 months ago

你搞定azure gpt4 1106模型的使用了吗？

xjune123 commented 10 months ago

我同样有这样问题，就是回答吐字后，就报错了，模型是gpt4 1106 azure

C-Dragon8 commented 10 months ago

我还没解决这个问题，等待作者答复吧

mkdirmushroom commented 10 months ago

API 版本改成2023-12-01-Preview

C-Dragon8 commented 10 months ago

我将默认API版本改成2023-12-01-Preview后，使用GPT-4-1106-Preview、GPT-35-Turbo-1106模型时仍然报错，错误信息： { "error": { "message": "Resource not found (request id: 20231212143149527931489jxBFD)", "type": "", "param": "", "code": "404" } }

各位兄弟有遇到吗？

mkdirmushroom commented 10 months ago

我将默认API版本改成2023-12-01-Preview后，使用GPT-4-1106-Preview、GPT-35-Turbo-1106模型时仍然报错，错误信息： { "error": { "message": "Resource not found (request id: 20231212143149527931489jxBFD)", "type": "", "param": "", "code": "404" } }

各位兄弟有遇到吗？

你可以检查下你的部署名称以及 one-api 中是否勾选相关模型，以及前端实际请求的模型名称。

C-Dragon8 commented 10 months ago

我将默认API版本改成2023-12-01-Preview后，使用GPT-4-1106-Preview、GPT-35-Turbo-1106模型时仍然报错，错误信息： { "error": { "message": "Resource not found (request id: 20231212143149527931489jxBFD)", "type": "", "param": "", "code": "404" } } 各位兄弟有遇到吗？

你可以检查下你的部署名称以及 one-api 中是否勾选相关模型，以及前端实际请求的模型名称。

我检查了在Azure的部署信息，部署区域在Canada East，应该是没问题的，麻烦您也帮我看下：

one-api中我选择的是填入所有模型，API版本是2023-12-01-Preview，应该也是没问题的。

前端实际请求的模型采用gpt-4、gpt-3.5此前的版本，例如0613，都是没问题的；但一旦选择了GPT-4-1106-Preview、GPT-35-Turbo-1106模型时就会报错。

listeng commented 10 months ago

one-api里面，名称填gpt4，重定向写{"gpt-4": "gpt4"}，我给fastgpt能用

C-Dragon8 commented 10 months ago

one-api里面，名称填gpt4，重定向写{"gpt-4": "gpt4"}，我给fastgpt能用

我按您的方法试了下，扔报如下错误： { "error": { "message": "The API deployment for this resource does not exist. If you created the deployment within the last 5 minutes, please wait a moment and try again. (request id: )", "type": "", "param": "", "code": "DeploymentNotFound" } }

mkdirmushroom commented 10 months ago

我将默认API版本改成2023-12-01-Preview后，使用GPT-4-1106-Preview、GPT-35-Turbo-1106模型时仍然报错，错误信息： { "error": { "message": "Resource not found (request id: 20231212143149527931489jxBFD)", "type": "", "param": "", "code": "404" } } 各位兄弟有遇到吗？

你可以检查下你的部署名称以及 one-api 中是否勾选相关模型，以及前端实际请求的模型名称。

我检查了在Azure的部署信息，部署区域在Canada East，应该是没问题的，麻烦您也帮我看下：

one-api中我选择的是填入所有模型，API版本是2023-12-01-Preview，应该也是没问题的。

前端实际请求的模型采用gpt-4、gpt-3.5此前的版本，例如0613，都是没问题的；但一旦选择了GPT-4-1106-Preview、GPT-35-Turbo-1106模型时就会报错。

你的部署名称错了，若要匹配 one-api，模型版本为 1106 的3.5名称应该为gpt-35-turbo-1106，gpt4同理

mkdirmushroom commented 10 months ago

我将默认API版本改成2023-12-01-Preview后，使用GPT-4-1106-Preview、GPT-35-Turbo-1106模型时仍然报错，错误信息： { "error": { "message": "Resource not found (request id: 20231212143149527931489jxBFD)", "type": "", "param": "", "code": "404" } } 各位兄弟有遇到吗？

你可以检查下你的部署名称以及 one-api 中是否勾选相关模型，以及前端实际请求的模型名称。

我检查了在Azure的部署信息，部署区域在Canada East，应该是没问题的，麻烦您也帮我看下：

one-api中我选择的是填入所有模型，API版本是2023-12-01-Preview，应该也是没问题的。

前端实际请求的模型采用gpt-4、gpt-3.5此前的版本，例如0613，都是没问题的；但一旦选择了GPT-4-1106-Preview、GPT-35-Turbo-1106模型时就会报错。

按照你目前的部署来看，前端模型如果选择 gpt-3.5-turbo指向的就是1106 版本的模型，gpt-4 也是同理。

C-Dragon8 commented 10 months ago

我将默认API版本改成2023-12-01-Preview后，使用GPT-4-1106-Preview、GPT-35-Turbo-1106模型时仍然报错，错误信息： { "error": { "message": "Resource not found (request id: 20231212143149527931489jxBFD)", "type": "", "param": "", "code": "404" } } 各位兄弟有遇到吗？

你可以检查下你的部署名称以及 one-api 中是否勾选相关模型，以及前端实际请求的模型名称。

我检查了在Azure的部署信息，部署区域在Canada East，应该是没问题的，麻烦您也帮我看下： one-api中我选择的是填入所有模型，API版本是2023-12-01-Preview，应该也是没问题的。前端实际请求的模型采用gpt-4、gpt-3.5此前的版本，例如0613，都是没问题的；但一旦选择了GPT-4-1106-Preview、GPT-35-Turbo-1106模型时就会报错。

按照你目前的部署来看，前端模型如果选择 gpt-3.5-turbo指向的就是1106 版本的模型，gpt-4 也是同理。

感谢您的解答。

如果我直接选择gpt-3.5-turbo或gpt-4，没有报错，我问了GPT“你有2023年的数据吗”类似的问题，GPT回答数据截止到2021年9月。这是有问题的。

我在one-api里面设置的API版本是2023-12-01-preview

mkdirmushroom commented 10 months ago

我将默认API版本改成2023-12-01-Preview后，使用GPT-4-1106-Preview、GPT-35-Turbo-1106模型时仍然报错，错误信息： { "error": { "message": "Resource not found (request id: 20231212143149527931489jxBFD)", "type": "", "param": "", "code": "404" } } 各位兄弟有遇到吗？

你可以检查下你的部署名称以及 one-api 中是否勾选相关模型，以及前端实际请求的模型名称。

我检查了在Azure的部署信息，部署区域在Canada East，应该是没问题的，麻烦您也帮我看下： one-api中我选择的是填入所有模型，API版本是2023-12-01-Preview，应该也是没问题的。前端实际请求的模型采用gpt-4、gpt-3.5此前的版本，例如0613，都是没问题的；但一旦选择了GPT-4-1106-Preview、GPT-35-Turbo-1106模型时就会报错。

按照你目前的部署来看，前端模型如果选择 gpt-3.5-turbo指向的就是1106 版本的模型，gpt-4 也是同理。

感谢您的解答。

如果我直接选择gpt-3.5-turbo或gpt-4，没有报错，我问了GPT“你有2023年的数据吗”类似的问题，GPT回答数据截止到2021年9月。这是有问题的。

我在one-api里面设置的API版本是2023-12-01-preview

作为测试，你可以在 one-api 只留一个 gpt-4，因为只有gpt-4-1106-preview才有 23 年4 月之前的数据。你可以用如下 prompt 测试，这在我这边是可以的：“你的数据截止到什么时候？” 如果还是不行，建议你将部署名称修改为gpt-4-1106-preview，one-api勾选此模型。

C-Dragon8 commented 10 months ago

mkdirmushroom

好的，多谢大佬！

eyangs commented 10 months ago

解决了吗？我也是调用azure openai api 报错code 404 one-api设置调用one-api代码 azure上的部署名称用openai的库调用是可以的

hansedong commented 9 months ago

I encountered the same problem, spent half a day without solving it. Personally, I think that one-api has some blind spots that users encounter in the process of converting from the openai interface format to the azure api format. Is it possible to add a product design like opencat that directly obtains the model that has been opened and set up by Azure and automatically fills it in?

ivanberry commented 7 months ago

折腾来半天终于搞好了

只能通过【模型重定向】配置来处理了。

vary commented 7 months ago

重定向的前提是两个模型都在上面有选择，这点很重要，之前一直不成功