Open wold9168 opened 3 months ago
注意到,chatglm的仓库下有这一disscussion:https://github.com/THUDM/ChatGLM2-6B/discussions/682
该disscussion指出,一些版本的python的transformers包会使得chatglm2-6b模型无法运行。
而本repo的requirements恰好指定:transformers>=4.27.1
。这一依赖要求可能会导致上游推送版本过于靠后的包用于构建容器。
我在尝试修改requirements.txt并重构容器以解决此问题。
(reply的时候手贱点到close了,orz)
重构容器之前发现上游给我推送了glm的新版本,先看看有没有把这个问题修掉罢。(
Installation Method | 安装方法与平台
Docker(Linux)
Version | 版本
Latest | 最新版
OS | 操作系统
Linux
Describe the bug | 简述
使用Debian 12+NVIDIA M40 24G的组合进行该项目的部署,使用的部署方式是Docker的方案0。
使用chatglm时遇到日志如下:
chatglm无法顺利加载。
Screen Shot | 有帮助的截图
Terminal Traceback & Material to Help Reproduce Bugs | 终端traceback(如有) + 帮助我们复现的测试材料样本(如有)
docker-compose.yml
文件内容如下: