search

josStorer / RWKV-Runner

A RWKV management and startup tool, full automation, only 8MB. And provides an interface compatible with the OpenAI API. RWKV is a large language model that is fully open source and available for commercial use.
https://www.rwkv.com
MIT License
5.25k stars 498 forks source link

RWKV-Runner-v1.7.2懒人包-内置依赖和3B模型 #315

Open a442509097 opened 7 months ago

a442509097 commented 7 months ago

不知道是不是没用百度官方软件下载, 下载解压后提示数据错误, 然后试着删除site-packages文件夹, 但下载到那个torch-1.13.1还有一些其它文件总是下载到几百兆就错误了. 捕获

另外想问一下, 我的电脑有两张N卡, 可以选择其中一张吗?

a442509097 commented 7 months ago

哦, 好了, 用百度网盘客户端下载, 没问题了. 显卡的话默认选择的是*16插槽的那张卡.

a442509097 commented 7 months ago

感谢, 很好用. 希望小说模式能加入, 如创建剧情概况, 创建多个人物特征, 地点, 物品, 如DreamGen那样就好了, 哈哈 捕获 捕获2

a442509097 commented 7 months ago

发现一个问题, AMD显卡, 用WebGPU, 一点击续写就无法停止(正常情况"生成"两个字应该变成"停止"的). WebGPU(Python)模式则没问题.

josStorer commented 7 months ago

可先用WebGPU (Python) 原因: https://github.com/josStorer/RWKV-Runner/issues/321