search

ypwhs / CreativeChatGLM

👋 欢迎来到 ChatGLM 创意世界！你可以使用修订和续写的功能来生成创意内容！
Apache License 2.0
241 stars 31 forks source link

是否考虑集成chatglm.cpp？ #46

Open Ancho5515 opened 10 months ago

Ancho5515 commented 10 months ago

项目地址：https://github.com/li-plus/chatglm.cpp 测试ChatGLM-6B-int8 模型也可以用3080 10G显存跑起来，速度很快稳定