项目加载ChatGLM2-6B源项目提供的模型失败并解决

[fangg2000]

我直接下载的是ChatGLM2-6B源项目提供的模型，直接执行时无法加载模型，报huggingface_hub.utils._validators.HFValidationError异常：

开始我以为是模型下载的不全，然后我直接把整个目录下的文件都下载了，还是不行。。。会话时还是会报“错误name 'model' is not defined”

但我发现别人配置里面加载的path: "model\Chatglm2-6B"是可以的，所以我看了下加载模型的代码（在llms/llm_glm6b.py文件），嗯，和ChatGLM2-6B项目加载的代码的确不一样，我修改如下：

`# tokenizer = AutoTokenizer.from_pretrained(

settings.llm.path, local_files_only=True, trust_remote_code=True,revision="v1.1.0")

# model = AutoModel.from_pretrained(
#     settings.llm.path, local_files_only=True, trust_remote_code=True, revision="v1.1.0")

model_path = "/home/fangg/tts/wenda-main/model/chatglm2-6b-int4"
tokenizer = AutoTokenizer.from_pretrained(model_path, trust_remote_code=True)
model = AutoModel.from_pretrained(model_path, trust_remote_code=True).half().cuda()

` 然后，成功了，希望对像我这样的刚开始的新手有帮助。

[l15y]

看起来是斜杠用错了，你改了哪里？

[fangg2000]

输出显示一反斜杠，但config.json里面是双反斜杠的，这个我试过很多次，没有问题。另外，如果是斜杠，则系统会在前面加上“https://huggingface.co/”

[l15y]

transformers在不同系统下对两种斜杠的处理逻辑是反的，挺奇葩