Closed Asukaleo-aa closed 1 year ago
rwkv.cpp这个项目是将rwkv的模型转换成ggml,极大地提高了rwkv模型在纯cpu环境下的运行效率,目前rwkv在更新模型的时候也有提供转换好的版本,非常推荐引入一下这个模型
您好,我们在这个分支已经支持了rwkv:https://github.com/binary-husky/gpt_academic/tree/jittor 您可以通过主分支的docker-compose进行尝试:https://github.com/binary-husky/gpt_academic/blob/master/docker-compose.yml
rwkv.cpp这个项目是将rwkv的模型转换成ggml,极大地提高了rwkv模型在纯cpu环境下的运行效率,目前rwkv在更新模型的时候也有提供转换好的版本,非常推荐引入一下这个模型