li-plus / chatglm.cpp

C++ implementation of ChatGLM-6B & ChatGLM2-6B & ChatGLM3 & GLM4
MIT License
2.81k stars 327 forks source link

请问是否支持glm-4-9b-chat-1m模型量化 #326

Open leizhu1989 opened 1 week ago

leizhu1989 commented 1 week ago

大佬,您好!请问这种方式是否支持glm-4-9b-chat-1m模型量化

li-plus commented 1 week ago

支持的

leizhu1989 commented 1 week ago

好的,谢谢

lzj-r commented 2 days ago

convert 就行