zyddnys / manga-image-translator

Translate manga/image 一键翻译各类图片内文字 https://cotrans.touhou.ai/
https://cotrans.touhou.ai/
GNU General Public License v3.0
5.21k stars 536 forks source link

[Feature Request]: 使用开源模型chatglm2-6b来翻译 #441

Open lumiamilk opened 1 year ago

lumiamilk commented 1 year ago

What would your feature do?

chatglm2-6b可以翻译日->中,英->中。 chatglm2-6b的地址:https://github.com/THUDM/ChatGLM2-6B chatglm2-6b使用int8来运行,rtx3060显存占用是11.5GB,并且在多轮短对话后显存占用稳定不增加。

因此可以实现场景:用cpu运行manga-image-translator,用gpu运行chatglm2-6b,实现本地漫画本地翻译

image

lumiamilk commented 1 year ago

chatglm3-6b-32k效果更好了。 地址:https://github.com/THUDM/ChatGLM3 使用int8运行,多轮对话后,显存占用为8.7GB。 image