使用chatglm_cpp/openai_api.py 提供接口服务，oneapi一测试链接就崩溃

li-plus / chatglm.cpp

C++ implementation of ChatGLM-6B & ChatGLM2-6B & ChatGLM3 & GLM4

MIT License

2.84k stars 327 forks source link

Open lordk911 opened 4 months ago

lordk911 commented 4 months ago

2024-03-07 10:16:11,727 - openai_api - INFO - prompt: "hi", sync response: "" double free or corruption (out) Aborted (core dumped)

zhaolj commented 4 months ago

同问，一样的现象。

但好像仅opeapi测试会崩溃，其他调用/chat/complitions正常。