issues
search
ztxz16
/
fastllm
纯c++的全平台llm加速库,支持python调用,chatglm-6B级模型单卡可达10000+token / s,支持glm, llama, moss基座,手机端流畅运行
Apache License 2.0
3.28k
stars
332
forks
source link
qwen 1.8b 输出结果错误
#386
Closed
suncheng-s
closed
6 months ago
suncheng-s
commented
8 months ago
测试了官方和 sft finetune 后的都出现相同情况,结果完全错误。想请教下如何排查问题。