search

liangwq / Chatglm_lora_multi-gpu

chatglm多gpu用deepspeed和
397 stars 61 forks source link

解析相应报错 #49

Closed jie1126 closed 9 months ago

jie1126 commented 10 months ago

image 如上图，是不是没有检索出来？你的read.txt里面咋写的

liangwq commented 10 months ago

image 如上图，是不是没有检索出来？你的read.txt里面咋写的

看起来不是没检索出来，你看看chatglm3是不是支持stream_chat方法，不支持你可以选择非stram chat模式

jie1126 commented 10 months ago

image 如上图，是不是没有检索出来？你的read.txt里面咋写的

看起来不是没检索出来，你看看chatglm3是不是支持stream_chat方法，不支持你可以选择非stram chat模式

支持的，就是响应有问题好像

liangwq commented 10 months ago

image 如上图，是不是没有检索出来？你的read.txt里面咋写的

看起来不是没检索出来，你看看chatglm3是不是支持stream_chat方法，不支持你可以选择非stram chat模式

支持的，就是响应有问题好像

read.txt:https://github.com/THUDM/ChatGLM2-6B/blob/main/README.md