search

THUDM / GLM-4

GLM-4 series: Open Multilingual Multimodal Chat LMs | 开源多语言多模态对话模型
Apache License 2.0
5.28k stars 435 forks source link

Xinference 部署glm-4-9b-chat 运行报错 'ChatGLMForConditionalGeneration' object has no attribute 'stream_chat' #480

Closed sy960923 closed 3 months ago

sy960923 commented 3 months ago

System Info / 系統信息

transformers 4.43.0 和4.44.0 都试过不行，请问有什么解决办法嘛？

Who can help? / 谁可以帮助到您？

No response

Information / 问题信息

Reproduction / 复现过程

1

Expected behavior / 期待表现

1

zRzRzRzRzRzRzR commented 3 months ago

这个已经在联系xinfer调整了，最新代码移除了非标准接口了，模型代码里没有了，预计下一个xinfer版本修复

sy960923 commented 3 months ago

这个已经在联系xinfer调整了，最新代码移除了非标准接口了，模型代码里没有了，预计下一个xinfer版本修复

目前没有别的办法解决嘛？