转发 rerank 请求 - Githubissues

songquanpeng / one-api

OpenAI 接口管理 & 分发系统，支持 Azure、Anthropic Claude、Google PaLM 2 & Gemini、智谱 ChatGLM、百度文心一言、讯飞星火认知、阿里通义千问、360 智脑以及腾讯混元，可用于二次分发管理 key，仅单可执行文件，已打包好 Docker 镜像，一键部署，开箱即用. OpenAI key management & redistribution system, using a single API for all LLMs, and features an English UI.

https://openai.justsong.cn/

MIT License

16.74k stars 3.85k forks source link

转发 rerank 请求 #1296

Open zhanghx0905 opened 3 months ago

zhanghx0905 commented 3 months ago

例行检查

[x] 我已确认目前没有类似 issue
[x] 我已确认我已升级到最新版本
[x] 我已完整查看过项目 README，已确定现有版本无法满足需求
[x] 我理解并愿意跟进此 issue，协助测试和提供反馈
[x] 我理解并认可上述内容，并理解项目维护者精力有限，不遵循规则的 issue 可能会被无视或直接关闭

功能描述

Rerank 已经成为了 RAG 的重要组件。

Cohere 提供了搜索精排的接口 https://docs.cohere.com/reference/rerank-1， Hugging Face 的 Text Embeddings Interface https://huggingface.github.io/text-embeddings-inference/#/Text%20Embeddings%20Inference/rerank 是一个本地高效部署 Rerank 模型的框架。

二者的 rerank API 不相同。希望本项目能增加对 rerank API 的支持，统一这两种模式的 API。

mxdlzg commented 3 months ago

希望能添加rerank类型的支持

liangfengyuan commented 3 months ago

同样的需求。

ZXP8080 commented 3 months ago

同样的需求

songquanpeng commented 3 months ago

了解，需要时间处理，期待有人pr

edisonzf2020 commented 1 month ago

+1