Closed Mr1994 closed 9 months ago
peft降到0.3.0试试吧,你用的版本太新,API可能发生变化了。
的确是可以了 感觉这里太容易踩坑了 我是否可以提交一下代码 或者建议您这边修改一下这里 peft==0.3.0 torch==2.0.1 transformers==4.35.0 sentencepiece==0.1.99 bitsandbytes==0.41.1 将peft 的版本固定在peft==0.3.0 而不是之前的peft>=0.3.0这样子的话可以避免很多问题
提交前必须检查以下项目
问题类型
模型转换和合并
基础模型
Chinese-LLaMA-2 (7B/13B)
操作系统
Linux
详细描述问题
我想将训练的数据和之前的7b进行合并就出现这个错误了
pip show peft
Name: peft Version: 0.6.2 Summary: Parameter-Efficient Fine-Tuning (PEFT) Home-page: https://github.com/huggingface/peft Author: The HuggingFace team Author-email: sourab@huggingface.co License: Apache Location: /llma2/Chinese-LLaMA-Alpaca-2/Chinese-LLaMA-Alpaca-2/lib/python3.9/site-packages Requires: accelerate, numpy, packaging, psutil, pyyaml, safetensors, torch, tqdm, transformers Required-by:```
运行日志或截图