search

ztxz16 / fastllm

纯c++的全平台llm加速库，支持python调用，chatglm-6B级模型单卡可达10000+token / s，支持glm, llama, moss基座，手机端流畅运行
Apache License 2.0
3.28k stars 332 forks source link

Process finished with exit code 139 (interrupted by signal 11: SIGSEGV) #391

Open weizhenhuan opened 8 months ago

weizhenhuan commented 8 months ago

在mac air2上使用chatglm2模型时，报错。无论使用fp16还是int8，无论输入是什么，输出一个token后都是报这个错。使用的是cpu版本。 Process finished with exit code 139 (interrupted by signal 11: SIGSEGV)

image