THUDM / GLM-4

GLM-4 series: Open Multilingual Multimodal Chat LMs | 开源多语言多模态对话模型
Apache License 2.0
4.74k stars 385 forks source link

前天升级前还能用All Tools,昨天升级之后,All Tools用不了了 #475

Closed sundayweekly closed 1 month ago

sundayweekly commented 1 month ago

System Info / 系統信息

![Uploading 1.jp 2 3 4 5 6 7 g…]() 8

Who can help? / 谁可以帮助到您?

No response

Information / 问题信息

Reproduction / 复现过程

在之前搭建的环境的基础上,分别安装basic_demo、composite_demo文件夹中requirement.txt中的安装包,在魔塔社区下载了最新的模型,报如图所示的错误。 0

Expected behavior / 期待表现

期待能找到问题的原因,并解决问题。

sundayweekly commented 1 month ago

环境配置如下: 1 2 3 4 5 6 7

zRzRzRzRzRzRzR commented 1 month ago

稳定复现吗,你的所有版本似乎都正常,可能唯一的区别是windows系统而不是我们测试的Linux系统

sundayweekly commented 1 month ago

稳定复现,一直是报这个错误,我在使用6月份版本的时候All Tools是可以用的,文档解析也是可以用的,只有多模态不能用,更新到这个版本之后,都用不了了,更新前后都是安装在同一台电脑上,都是win10的系统

zRzRzRzRzRzRzR commented 1 month ago

因为依赖升级了,现在的依赖跟六月份已经不一样了,transformers升级到了最新的,这个问题现在暂时没办法复现,不确定是不是因为版本升级之后底层依赖跟windows出现冲突

sundayweekly commented 1 month ago

我怀疑是flash attention的问题,现在还没有找到解决的办法,之前版本的transformers,是不是不用flash attention? 升级transformers之后要用flash attention

sundayweekly commented 1 month ago

transformers升级到最新版本4.44.0,torch也升级到2.3.1,就可以用了