在量化模型的时候出现segmentation fault

li-plus / chatglm.cpp

C++ implementation of ChatGLM-6B & ChatGLM2-6B & ChatGLM3 & GLM4(V)

MIT License

2.92k stars 333 forks source link

Open invalid-pointer opened 7 months ago

invalid-pointer commented 7 months ago

chatglm3-6b -t q4_0 -o chatglm3-ggml.bin

li-plus commented 6 months ago

没能复现，试试找到 core 文件，然后 gdb python3 <core_file>，输入 bt 看下调用栈，参考 https://www.cse.unsw.edu.au/~learn/debugging/modules/gdb_coredumps/