ymcui / Chinese-LLaMA-Alpaca-2

中文LLaMA-2 & Alpaca-2大模型二期项目 + 64K超长上下文模型 (Chinese LLaMA-2 & Alpaca-2 LLMs with 64K long context models)
Apache License 2.0
7k stars 570 forks source link

运行模型时output norm.weight' notfound如何解决 #534

Closed dyqc closed 4 months ago

dyqc commented 4 months ago

提交前必须检查以下项目

问题类型

模型量化和部署

基础模型

Chinese-Alpaca-2 (7B/13B)

操作系统

Linux

详细描述问题

# 请在此处粘贴运行代码(请粘贴在本代码块里)

请问在运行模型的时候output norm.weight not found 改如何解决 是下载的bin用convert转化成gguf格式

依赖情况(代码类问题务必提供)

# 请在此处粘贴依赖情况(请粘贴在本代码块里)

运行日志或截图

# 请在此处粘贴运行日志(请粘贴在本代码块里)
image
ymcui commented 4 months ago

这点信息很难给你看问题。 1)模型从哪儿下的?是否比对过SHA256(如果从HF下载)? 2)转换脚本换成convert.py是否有同样问题? 3)嫌麻烦就直接下载我们转换好的GGUF

dyqc commented 4 months ago

这点信息很难给你看问题。 1)模型从哪儿下的?是否比对过SHA256(如果从HF下载)? 2)转换脚本换成convert.py是否有同样问题? 3)嫌麻烦就直接下载我们转换好的GGUF

谢谢 非常感谢 已经解决了 看到历史问题里是google drive下载重命名的问题