lss233 / chatgpt-mirai-qq-bot

🚀 一键部署!真正的 AI 聊天机器人!支持ChatGPT、文心一言、讯飞星火、Bing、Bard、ChatGLM、POE,多账号,人设调教,虚拟女仆、图片渲染、语音发送 | 支持 QQ、Telegram、Discord、微信 等平台
GNU Affero General Public License v3.0
13.3k stars 1.56k forks source link

[Feature] 支持 RWKV 模型(目前已有 pip package & rwkv.cpp 等等) #743

Open BlinkDL opened 1 year ago

BlinkDL commented 1 year ago

您好,我是 RWKV 的作者,介绍见:https://zhuanlan.zhihu.com/p/626083366

欢迎大家一起合作加入 RWKV 的支持 :)

现在也有个简单的QQ机器人:https://github.com/cryscan/eloise

目前支持 RWKV 的中英文界面有:

使用方法:

lss233 commented 1 year ago

感谢您的建议!RWKV 是一个很优秀的模型,我会加入支持的。

在实现上,为了避免让项目依赖过大,我认为通过 HTTP API 的方式调用模型会比较方便一些。

不过 ChatRWKV 本身不提供 HTTP API,我打算通过 闻达 / ooba 等项目提供的接口来调用 RWKV。

BlinkDL commented 1 year ago

感谢您的建议!RWKV 是一个很优秀的模型,我会加入支持的。

在实现上,为了避免让项目依赖过大,我认为通过 HTTP API 的方式调用模型会比较方便一些。

不过 ChatRWKV 本身不提供 HTTP API,我打算通过 闻达 / ooba 等项目提供的接口来调用 RWKV。

好啊,可以用闻达