THUDM / VisualGLM-6B

Chinese and English multimodal conversational language model | 多模态中英双语对话语言模型
Apache License 2.0
4.09k stars 416 forks source link

报错了该怎么解决 #368

Open cwtcwt123 opened 2 months ago

cwtcwt123 commented 2 months ago

在所有环境全部搭建好之后运行web_demo.py然后报错:sat.model.transformer.BaseTransformer() got multiple values for keyword argument 'parallel_output' 这个该怎么解决

corkiyao commented 2 months ago

在所有环境全部搭建好之后运行web_demo.py然后报错:sat.model.transformer.BaseTransformer() got multiple values for keyword argument 'parallel_output' 这个该怎么解决

更新最新的sat的吧,之前我也遇到这问题。

cwtcwt123 commented 1 month ago

还是不行,我无论是使用最新版本安装还是下载源码安装,最后都会有这个错误

corkiyao commented 1 month ago

还是不行,我无论是使用最新版本安装还是下载源码安装,最后都会有这个错误

是不是之前加载了模型缓存,我更新之后就没有问题了。

jiwei08 commented 1 month ago

我也遇到了同样的问题,楼主解决了吗

corkiyao commented 1 month ago

我也遇到了同样的问题,楼主解决了吗

import os
import torch
import argparse

from SwissArmyTransformer.sat import mpu, get_args, get_tokenizer
from SwissArmyTransformer.sat.training.deepspeed_training import training_main
from model import VisualGLMModel
from SwissArmyTransformer.sat.model.finetune import PTuningV2Mixin
from SwissArmyTransformer.sat.model.finetune.lora2 import LoraMixin

你们的在finetune_visualglm.py的import包的时候是这样加载的吗?我这样加载的就没有问题

jiwei08 commented 1 month ago

我直接在python命令行运行

from transformers import AutoTokenizer, AutoModel
model = AutoModel.from_pretrained("~/visualglm-6b", trust_remote_code=True).half().cuda()

也会报错TypeError: sat.model.transformer.BaseTransformer() got multiple values for keyword argument 'parallel_output'

corkiyao commented 1 month ago

我直接在python命令行运行

from transformers import AutoTokenizer, AutoModel
model = AutoModel.from_pretrained("~/visualglm-6b", trust_remote_code=True).half().cuda()

也会报错TypeError: sat.model.transformer.BaseTransformer() got multiple values for keyword argument 'parallel_output'

官方好像是不更新huggingface的了,只更新SAT模型的了。所以应该是更新了之后,huggingface的模型无法对应版本了

zykdhr commented 1 month ago

我在运行微调脚本时也报了这个错误 1726815501046

解决方法是 pip uninstall SwissArmyTransformer==0.4.12 pip install SwissArmyTransformer==0.4.11 用旧版本的就好了

corkiyao commented 1 month ago

我在运行微调脚本时也报了这个错误 1726815501046

解决方法是 pip uninstall SwissArmyTransformer==0.4.12 pip install SwissArmyTransformer==0.4.11 用旧版本的就好了

在SAT==0.4.12新版里面吧对应的parallel_output删掉也可以。应该是更新版本的时候,没有删除对应的参数,导致传参的时候有的参数不存在。