search

zhayujie / chatgpt-on-wechat

基于大模型搭建的聊天机器人，同时支持 微信公众号、企业微信应用、飞书、钉钉 等接入，可选择GPT3.5/GPT-4o/GPT4.0/ Claude/文心一言/讯飞星火/通义千问/ Gemini/GLM-4/Claude/Kimi/LinkAI，能处理文本、语音和图片，访问操作系统和互联网，支持基于自有知识库进行定制企业智能客服。
https://docs.link-ai.tech/cow
MIT License
28.06k stars 7.47k forks source link

扩大模型范围，新增支持用户自己部署的大模型 #2036

Closed NeoFii closed 1 month ago

NeoFii commented 1 month ago

⚠️ 搜索是否存在类似issue

总结

建议作者团队能支持将用户自己的大模型接入进来

举例

No response

动机

项目很好，我自己从事LLLM方面的研究，建议能够将自己的大模型部署接入到微信中

laoji2333 commented 1 month ago

其实可以自己改代码实现，之前我就接了自己本地跑的qwen模型

NeoFii commented 1 month ago

其实可以自己改代码实现，之前我就接了自己本地跑的qwen模型

你好 请问能交流一下吗

6vision commented 1 month ago

项目架构支持自定义bot，在bot文件夹下增加即可

laoji2333 commented 1 month ago

其实可以自己改代码实现，之前我就接了自己本地跑的qwen模型

你好 请问能交流一下吗

我那种其实是一种临时解决方案，其实就是把接口地址改成局域网里面模型的API地址，就是提供OpenAI格式的API，然后改他这个项目的一些配置去实现，如果要真正一样上接自己的大模型，最好是开发多一种模式