issues
search
ztxz16
/
fastllm
纯c++的全平台llm加速库,支持python调用,chatglm-6B级模型单卡可达10000+token / s,支持glm, llama, moss基座,手机端流畅运行
Apache License 2.0
3.23k
stars
325
forks
source link
添加QT界面Qui到example
#441
Closed
jacques-chen
closed
3 months ago
jacques-chen
commented
3 months ago
包含两个部分,图形截面Qui和FastLLM.cpp。 FastLLM.cpp是一个新的命令行程序,用来配合Qui使用
包含两个部分,图形截面Qui和FastLLM.cpp。 FastLLM.cpp是一个新的命令行程序,用来配合Qui使用