search

dandelionsllm / pandallm

Panda项目是于2023年5月启动的开源海外中文大语言模型项目，致力于大模型时代探索整个技术栈，旨在推动中文自然语言处理领域的创新和合作。
Apache License 2.0
1.07k stars 91 forks source link

RuntimeError: The size of tensor a (32000) must match the size of tensor b (32001) at non-singleton dimension 0 #31

Closed jeinlee1991 closed 1 year ago

jeinlee1991 commented 1 year ago

运行apply_delta.py。合并权重的时候报这个错误！经过查看，发现Panda-Instruct-7B的vocab_size是32001，而官方llama的vocab_size是32000。怎么破？

SparkJiao commented 1 year ago

这个问题应该很早之前就Fix过了，能否请你检查一下是否使用的是我们repo下最新版的apply_delta.py？

jeinlee1991 commented 1 year ago

@SparkJiao 是的，用最新的apply_delta.py运行正常，谢谢~