search

ztxz16 / fastllm

纯c++的全平台llm加速库，支持python调用，chatglm-6B级模型单卡可达10000+token / s，支持glm, llama, moss基座，手机端流畅运行
Apache License 2.0
3.28k stars 332 forks source link

qwen 1.8b 输出结果错误 #386

Closed suncheng-s closed 6 months ago

suncheng-s commented 8 months ago

image 测试了官方和 sft finetune 后的都出现相同情况，结果完全错误。想请教下如何排查问题。