[功能请求]: 支持 RWKV 模型（目前已有 pip package & rwkv.cpp 等等）

[BlinkDL]

相关问题

No response

可能的解决办法

您好，我是 RWKV 的作者，介绍见：https://zhuanlan.zhihu.com/p/626083366

目前支持 RWKV 的中英文界面有：

• 闻达：https://github.com/l15y/wenda
• Gradio DEMO: https://huggingface.co/spaces/BlinkDL/Raven-RWKV-7B
• ooba：https://github.com/oobabooga/text-generation-webui/issues/1401

使用方法：

• pip package: https://pypi.org/project/rwkv/
• 问答DEMO代码：https://github.com/BlinkDL/ChatRWKV/blob/main/v2/benchmark_more.py
• 聊天代码：https://github.com/BlinkDL/ChatRWKV
• CPU INT4/8 量化运行: https://github.com/saharNooby/rwkv.cpp

欢迎大家一起合作加入 RWKV 的支持 :)

帮助开发

• [X] 我愿意协助开发！

补充说明

No response

[GaiZhenbiao]

好，我看看

[DoodleBears]

支持加入 RWKV 模型