search

THUDM / VisualGLM-6B

Chinese and English multimodal conversational language model | 多模态中英双语对话语言模型
Apache License 2.0
4.08k stars 416 forks source link

AttributeError: module 'transformers_modules.hf.modeling_chatglm' has no attribute 'ChatGLMForConditionalGenerationWithImage'. Did you mean: 'ChatGLMForConditionalGeneration'? #328

Closed w9931125 closed 9 months ago

w9931125 commented 9 months ago

如题 有人遇到过这个报错吗？ AttributeError: module 'transformers_modules.hf.modeling_chatglm' has no attribute 'ChatGLMForConditionalGenerationWithImage'. Did you mean: 'ChatGLMForConditionalGeneration'? 我直接下载的HF上visualglm-6b的所有包 然后按照demo写了一个py文件后 from transformers import AutoTokenizer, AutoModel tokenizer = AutoTokenizer.from_pretrained("THUDM/visualglm-6b", trust_remote_code=True) model = AutoModel.from_pretrained("THUDM/visualglm-6b", trust_remote_code=True).half().cuda() image_path = "your image path" response, history = model.chat(tokenizer, image_path, "描述这张图片。", history=[]) print(response) response, history = model.chat(tokenizer, image_path, "这张图片可能是在什么场所拍摄的？", history=history) print(response) 然后改了路径指定到我下载的目录后，运行出错

1049451037 commented 9 months ago

hf版本的visualglm已经比较久没人维护了，建议用老版本的transformers试一下：

pip install transformers==4.31
w9931125 commented 9 months ago

hf版本的visualglm已经比较久没人维护了，建议用老版本的transformers试一下：

pip install transformers==4.31

好吧 ，现在只有git上这个普通版本吗？比如说后缀没有_hf的py文件

1049451037 commented 9 months ago

是的，不过hf也是可以正常用的，只是需要降级一下transformers库。

w9931125 commented 9 months ago

是的，不过hf也是可以正常用的，只是需要降级一下transformers库。

我试着降级还是不能用还是这个错误 AttributeError: module 'transformers_modules.hf.modeling_chatglm' has no attribute 'ChatGLMForConditionalGenerationWithImage'. Did you mean: 'ChatGLMForConditionalGeneration'?

w9931125 commented 9 months ago

或者 您还知道有什么其他的图片大模型吗

1049451037 commented 9 months ago

是的，不过hf也是可以正常用的，只是需要降级一下transformers库。

我试着降级还是不能用还是这个错误 AttributeError: module 'transformers_modules.hf.modeling_chatglm' has no attribute 'ChatGLMForConditionalGenerationWithImage'. Did you mean: 'ChatGLMForConditionalGeneration'?

那应该就是你的代码没下载全，visuaglm-6b的代码里是有ChatGLMForConditionalGenerationWithImage这个类的。你试着在你的代码里搜一下：https://huggingface.co/THUDM/visualglm-6b/blob/main/modeling_chatglm.py#L1341

1049451037 commented 9 months ago

或者 您还知道有什么其他的图片大模型吗

可以试一下CogVLM：https://github.com/THUDM/CogVLM

不过开源版本暂时不支持中文。

w9931125 commented 9 months ago

是的，不过hf也是可以正常用的，只是需要降级一下transformers库。

我试着降级还是不能用还是这个错误 AttributeError: module 'transformers_modules.hf.modeling_chatglm' has no attribute 'ChatGLMForConditionalGenerationWithImage'. Did you mean: 'ChatGLMForConditionalGeneration'?

那应该就是你的代码没下载全，visuaglm-6b的代码里是有ChatGLMForConditionalGenerationWithImage这个类的。你试着在你的代码里搜一下：https://huggingface.co/THUDM/visualglm-6b/blob/main/modeling_chatglm.py#L1341

是的 我又重新检查了一下 非常感谢您