songquanpeng / one-api

OpenAI 接口管理 & 分发系统,支持 Azure、Anthropic Claude、Google PaLM 2 & Gemini、智谱 ChatGLM、百度文心一言、讯飞星火认知、阿里通义千问、360 智脑以及腾讯混元,可用于二次分发管理 key,仅单可执行文件,已打包好 Docker 镜像,一键部署,开箱即用. OpenAI key management & redistribution system, using a single API for all LLMs, and features an English UI.
https://openai.justsong.cn/
MIT License
16.19k stars 3.74k forks source link

【模型重定向】 #1108

Open Whichbfj28 opened 4 months ago

Whichbfj28 commented 4 months ago

例行检查

问题描述 关于模型重定向的,看了一些文章。但是我觉得这逻辑对于很多用户来说都会觉得莫名其妙。 目前one版本正确使用方式【以gemini为例】假如你的客户端只支持gpt-3.5-turbo,想重定向到gemini 1、那么渠道的地方,模型写上gpt-3.5-turbo、gemini-pro #【一定要填上gpt-3.5-turbo】 2、重定向代码: { "gpt-3.5-turbo": "gemini-pro" }

问题: 1:既然是编辑渠道信息的,那么模型选项的地方就应该对应这个渠道的模型。比如gemini对应的就是gemini-pro。 2、现在要求模型的地方填写上客户端发送模型gpt-3.5-turbo。这很莫名其妙。【路径变成了:客户端gpt-3.5-turbo---oneapi渠道选项模型gpt-3.5-turbo--oneapi重定向模型到gemini---oneapi的渠道选项模型gemini---google服务器】 3、正常逻辑应该是:客户端gpt-3.5-turbo-----oneapi的gpt-3.5-turbo模型重定向到gemini-----google服务器】

相关截图 image 如果没有的话,请删除此节。

songquanpeng commented 4 months ago

你是想模型列表里不必选择 gpt-3.5-turbo 是么?

Whichbfj28 commented 4 months ago

是的。因为这个gpt-3.5-turbo这个模型不是 gemini这个渠道拥有的模型。