search

Deeptrain-Community / chatnio

🚀 Next Generation AI One-Stop Internationalization Solution. 🚀 下一代 AI 一站式 B/C 端解决方案，支持 OpenAI，Midjourney，Claude，讯飞星火，Stable Diffusion，DALL·E，ChatGLM，通义千问，腾讯混元，360 智脑，百川 AI，火山方舟，新必应，Gemini，Moonshot 等模型，支持对话分享，自定义预设，云端同步，模型市场，支持弹性计费和订阅计划模式，支持图片解析，支持联网搜索，支持模型缓存，丰富美观的后台管理与仪表盘数据统计。
https://chatnio.com
Apache License 2.0
2.71k stars 447 forks source link

可以用本地模型吗？比如ollama #159

Closed 877075166 closed 3 months ago

zmh-program commented 3 months ago

Chat Nio 支持 LocalAI 等本地模型聚合。

Ollama 支持 OpenAI 格式，可以通过 OpenAI 格式接入： https://ollama.com/blog/openai-compatibility

接入点填 http://[ip]:[port] 即可

zmh-program commented 2 months ago

也可使用 LocalAI, 支持 LLAMA/RWKV/SDXL 等模型