songquanpeng / one-api

OpenAI 接口管理 & 分发系统,支持 Azure、Anthropic Claude、Google PaLM 2 & Gemini、智谱 ChatGLM、百度文心一言、讯飞星火认知、阿里通义千问、360 智脑以及腾讯混元,可用于二次分发管理 key,仅单可执行文件,已打包好 Docker 镜像,一键部署,开箱即用. OpenAI key management & redistribution system, using a single API for all LLMs, and features an English UI.
https://openai.justsong.cn/
MIT License
17.48k stars 3.98k forks source link

gemini-pro返回400错误 #853

Open InitialXKO opened 8 months ago

InitialXKO commented 8 months ago

例行检查

问题描述 ChatGPT Web Next自定义模型填gemini-pro模型 对话时返回

{
  "error": {
    "message": " (request id: 20231221101039692018726XPhivUC3)",
    "type": "upstream_error",
    "param": "400",
    "code": "bad_response_status_code"
  }
}

复现步骤 渠道类型选的Google Gemini 模型选择gemini-pro 预期结果 返回正常对话 相关截图 如果没有的话,请删除此节。

panxiaoguang commented 8 months ago

是不是没设置对哪里,我的目前正常

stonechen03 commented 8 months ago

v0.5.10 版本,gemini pro 返回request id: 2023122116055164910061JV16kwXS

nowingcanfly commented 8 months ago

是不是没设置对哪里,我的目前正常

大佬哪里的服务器?还是挂了代理?

panxiaoguang commented 8 months ago

是不是没设置对哪里,我的目前正常

大佬哪里的服务器?还是挂了代理?

微软Azure 美国西

stonechen03 commented 8 months ago

我的是新加坡地区

nowingcanfly commented 8 months ago

楼上二位大佬,服务器已经解决很多问题了。题主的问题,应该是服务器导致,gemini限制ip区域

stonechen03 commented 8 months ago

怎么测试能确定是新加坡IP问题,我自己电脑也是新加坡地址都正常访问的

nowingcanfly commented 8 months ago

curl https://generativelanguage.googleapis.com/v1beta/models/gemini-pro?key=$API_KEY

在服务器上跑这个命令每问题?

stonechen03 commented 8 months ago

curl https://generativelanguage.googleapis.com/v1beta/models/gemini-pro?key=$API_KEY

在服务器上跑这个命令每问题?

----------------------------------------------执行结果是不地区不支持,这就😅了 { "error": { "code": 400, "message": "User location is not supported for the API use.", "status": "FAILED_PRECONDITION" } }

nowingcanfly commented 8 months ago

反正美帝没问题,完全不知道哪里问题···哎

nowingcanfly commented 8 months ago

解决了,https://github.com/antergone/palm-proxy 直接按图索骥部署把,然后填代理到渠道就好了。

stonechen03 commented 8 months ago

解决了,https://github.com/antergone/palm-proxy 直接按图索骥部署把,然后填代理到渠道就好了。

本来就在新加坡服务器 还搞代理。。。。

nowingcanfly commented 8 months ago

只要不是在US,该处理还是处理把

stonechen03 commented 8 months ago

只要不是在US,该处理还是处理把

感谢,非常感谢!确实用这个方法解决了。现在可以用了。

Urmi10799 commented 8 months ago

I have question not related to this issue:

Is oneAPI support streaming/typing effect for azure openai and gemini pro? Please someone reply to this question.

suwubee commented 8 months ago

只要不是在US,该处理还是处理把

感谢,非常感谢!确实用这个方法解决了。现在可以用了。

请问下代理地址怎么填,我也部署了也没用,

stonechen03 commented 8 months ago

只要不是在US,该处理还是处理把

感谢,非常感谢!确实用这个方法解决了。现在可以用了。

请问下代理地址怎么填,我也部署了也没用,

github上部署之后,在oneapi增加“渠道”时最下面有个代理地址,把palm-proxy地址填上就可以了

XianYuDaXian commented 8 months ago

image 服务器ip是没问题的,gemini-pro也正常使用,但gemini-pro-vision还是返回400,请问该怎么做 image

songquanpeng commented 7 months ago

是的,400 错误大概率是 region 的问题,感谢各位的解释

qingfengfenga commented 7 months ago

请问使用Curl 直接测试gemini的代理是正常的,但是添加到one-api里,使用ChatGPT-Next-Web访问,提示400,这种的话也会是region的问题吗

是的,400 错误大概率是 region 的问题,感谢各位的解释

kookim commented 5 months ago

我也遇到了。客户端是lobehub,感觉与历史消息数有关。选择不限历史消息,可以正常;奇数条历史消息(3、5)正常,偶数历史消息(4,6)不正常

songquanpeng commented 5 months ago

我会再看一下这个问题

huluohu commented 2 weeks ago

我也遇到了。客户端是lobehub,感觉与历史消息数有关。选择不限历史消息,可以正常;奇数条历史消息(3、5)正常,偶数历史消息(4,6)不正常

确实是跟历史数据有关系,我删除聊天记录就恢复了。 本身我的oneapi是在美区vps上的,使用fastgpt和web版的nextchat调gemini没问题,但是使用桌面版nextchat调就直接400(upstream_error),我清空聊天或新建聊天就没事了。