Open lumiamilk opened 1 year ago
chatglm2-6b可以翻译日->中,英->中。 chatglm2-6b的地址:https://github.com/THUDM/ChatGLM2-6B chatglm2-6b使用int8来运行,rtx3060显存占用是11.5GB,并且在多轮短对话后显存占用稳定不增加。
因此可以实现场景:用cpu运行manga-image-translator,用gpu运行chatglm2-6b,实现本地漫画本地翻译
chatglm3-6b-32k效果更好了。 地址:https://github.com/THUDM/ChatGLM3 使用int8运行,多轮对话后,显存占用为8.7GB。
What would your feature do?
chatglm2-6b可以翻译日->中,英->中。 chatglm2-6b的地址:https://github.com/THUDM/ChatGLM2-6B chatglm2-6b使用int8来运行,rtx3060显存占用是11.5GB,并且在多轮短对话后显存占用稳定不增加。
因此可以实现场景:用cpu运行manga-image-translator,用gpu运行chatglm2-6b,实现本地漫画本地翻译