songquanpeng / one-api

OpenAI 接口管理 & 分发系统,支持 Azure、Anthropic Claude、Google PaLM 2 & Gemini、智谱 ChatGLM、百度文心一言、讯飞星火认知、阿里通义千问、360 智脑以及腾讯混元,可用于二次分发管理 key,仅单可执行文件,已打包好 Docker 镜像,一键部署,开箱即用. OpenAI key management & redistribution system, using a single API for all LLMs, and features an English UI.
https://openai.justsong.cn/
MIT License
19.41k stars 4.32k forks source link

使用anthropic pythonsdk请求返回404 #1900

Closed jlu3389 closed 1 week ago

jlu3389 commented 3 weeks ago

例行检查

问题描述 测试claude-3-5-sonnet-20241022时没有问题,但使用anthropic的pythonsdk 请求确是404 nthropic.NotFoundError: Error code: 404 - {'error': {'message': 'Invalid URL (POST /v1/messages)', 'type': 'invalid_request_error', 'param': '', 'code': ''}}

复现步骤 import anthropic response = client.messages.create 请求。 预期结果 200, 相关截图 image

已确认请求模型没有拼写错误。

非常感谢。

QAbot-zh commented 3 weeks ago

经过 oneapi 中转出去都是 OpenAI 格式调用

jlu3389 commented 3 weeks ago

经过 oneapi 中转出去都是 OpenAI 格式调用

你好。所以你的意思是,我应该使用openai的sdk来请求?

QAbot-zh commented 3 weeks ago

经过 oneapi 中转出去都是 OpenAI 格式调用

你好。所以你的意思是,我应该使用openai的sdk来请求?

对的,只需要更换对应的 model ,就可以请求任意 oneapi 转发后的模型,all in one

chenzikun commented 3 weeks ago

有很多第三方工具使用的是客户端是指定的,并不能随意更改,希望支持使用原生地址的方式去访问大模型

jlu3389 commented 1 week ago

经过 oneapi 中转出去都是 OpenAI 格式调用

你好。所以你的意思是,我应该使用openai的sdk来请求?

对的,只需要更换对应的 model ,就可以请求任意 oneapi 转发后的模型,all in one

收到,非常感谢。