search

1Panel-dev / MaxKB

🚀 MaxKB 是一款基于大语言模型和 RAG 的开源知识库问答系统，广泛应用于智能客服、企业内部知识库、学术研究与教育等场景。
https://maxkb.cn/
GNU General Public License v3.0
11.25k stars 1.47k forks source link

[FEATURE] 是否考虑通过 One-API 项目管理和配置大模型接口？ #361

Open chixq opened 6 months ago

chixq commented 6 months ago

MaxKB 版本

Latest

请描述您的需求或者改进建议

类似 Fastgpt（ https://doc.fastai.site/docs/development/sealos/ ），集成了 One-API （https://github.com/songquanpeng/one-api）

优势：

  1. 不用再自己对接一遍各种大模型，工作量大且容易出错
  2. One-API 协议友好 MIT 协议
  3. One-API 自己默认带运营能力（计量计费），为 MaxKB 后面迭代可能有帮助
  4. 1Panel 商店已经集成了 One-API，可以做联动

请描述你建议的实现方案

No response

附加信息

No response

baixin513 commented 6 months ago

感谢反馈， OneAPI 应该和 OpenAI 的格式是通用的，您可以在 MaxKB 添加 模型时选择 OpenAI供应商，然后 API 域名输入 OneAPI 的服务地址，基础模型输入你想要对接的OneAPI 中的模型名称。

hcppxgit commented 5 months ago

谢谢反馈， OneAPI 应该和 OpenAI 的格式是通用的，强制 MaxKB 添加模型时选择 OpenAI 供应商，然后 API 域名输入 OneAPI 服务地址，基础模型输入你想要接的 OneAPI 中的模型名称。

请问一下能否把maxkb的应用接入oneapi，我想通过oneapi直接和对应的应用对话。

soonxf commented 4 months ago

支持,输出格式是 openAI 格式就好了