LC1332 / Chat-Haruhi-Suzumiya

Chat凉宫春日, An open sourced Role-Playing chatbot Cheng Li, Ziang Leng, and others.
Apache License 2.0
1.85k stars 164 forks source link

如何本地部署启动 #5

Open oukohou opened 1 year ago

oukohou commented 1 year ago

很好的工作,但是。。。请问如何在本地部署启动?下载开源模型实现离线私有部署那种。方便出个简单的readme复述一下步骤吗,感谢! 以及,如果我想训练自己的人物,该如何操作? thumb up

LC1332 commented 1 year ago

感谢关注。

目前我们还没有完成ChatGLM2 和原来inference端的重构结合

本地暂时只有临时的版本在Local_Deploy

如果是GPT的版本重构后的见src_reform

最近我们正在增加人物

如果你的人物 有现成的台本 可以直接整理成

characters/haruhi

或者characters/yuqian的形式

我正在让 @todochenxi 整理一个视频来讲解这个事情

如果你的人物只有电视剧 可以用yuki_builder里面的东西先转化TV脚本

然后再整理成对应的格式

训练代码我们正在重构 见 kyon_generator

重构后我们会把GLM的切换也整合到src_reform里面 并且建立一个GLM模型的demo代码

那个时候本地部署就容易了

todochenxi commented 1 year ago

感谢关注。添加角色的图形化界面正在开发,最迟明天可以调试好,到时候会录使用视频,稍等一下。