search

1Panel-dev / MaxKB

🚀 基于大语言模型和 RAG 的知识库问答系统。开箱即用、模型中立、灵活编排，支持快速嵌入到第三方业务系统。
https://maxkb.cn/
GNU General Public License v3.0
10.2k stars 1.35k forks source link

支持openapi兼容调用[FEATURE] #33

Closed samcaicn closed 5 months ago

samcaicn commented 5 months ago

MaxKB 版本

1.0

请描述您的需求或者改进建议

fastapi 即可

请描述你建议的实现方案

No response

附加信息

No response

jingzl commented 5 months ago

建议支持 openai 接口的本地化调用，比如chatglm3-6b，baichuan2，qwen等。

baixin513 commented 5 months ago

可以通过 Ollama 调用本地模型的。

建议支持 openai 接口的本地化调用，比如chatglm3-6b，baichuan2，qwen等。

samcaicn commented 5 months ago

你们在这里扯的都和主题无关哈，需求是：

应用运行起来后可以被openai兼容的程序调用

samcaicn commented 5 months ago

image

baixin513 commented 5 months ago

当前不能像OpenAI那样对话的。 需要先获取一个对话id 才可以进行对话，具体要看我们API文档。