search

HarderThenHarder / transformers_tasks

⭐️ NLP Algorithms with transformers lib. Supporting Text-Classification, Text-Generation, Information-Extraction, Text-Matching, RLHF, SFT etc.
https://www.zhihu.com/column/c_1451236880973426688
2.17k stars 381 forks source link

train error 需要您的解答 #25

Open zhangnn520 opened 1 year ago

zhangnn520 commented 1 year ago

你好作者，我在研究您的LLM微调模型的时候发现，以下错误，代码无法跑通 ValueError: Please specify target_modules in peft_config 模型运行train的时候发现以下这些方法都没有找到 'ChatGLMForConditionalGeneration' object has no attribute 'enable_input_require_grads' 'ChatGLMForConditionalGeneration' object has no attribute 'gradient_checkpointing_enable'

HarderThenHarder commented 1 year ago

ValueError: Please specify target_modules in peft_config

Hi，这个问题可能是因为没有安装指定版本的 peft 导致的，您是否是按照readme里的步骤进入到 peft 文件夹使用 python setup.py install 安装的呢？

AnliComputer commented 1 year ago

你好作者，我在研究您的LLM微调模型的时候发现，以下错误，代码无法跑通 ValueError: Please specify target_modules in peft_config 模型运行train的时候发现以下这些方法都没有找到 'ChatGLMForConditionalGeneration' object has no attribute 'enable_input_require_grads' 'ChatGLMForConditionalGeneration' object has no attribute 'gradient_checkpointing_enable'

请问你有transformers_tasks\LLM\finetune训练模型的存放路径checkpoints/model_1000文件方便上传吗？

zhangnn520 commented 1 year ago

收到，已经解决了，谢谢你

------------------ 原始邮件 ------------------ 发件人: @.>; 发送时间: 2023年3月30日(星期四) 上午10:40 收件人: @.>; 抄送: @.>; @.>; 主题: Re: [HarderThenHarder/transformers_tasks] train error 需要您的解答 (Issue #25)

ValueError: Please specify target_modules in peft_config

Hi，这个问题可能是因为没有安装指定版本的 peft 导致的，您是否是按照readme里的步骤进入到 peft 文件夹使用 python setup.py install 安装的呢？

— Reply to this email directly, view it on GitHub, or unsubscribe. You are receiving this because you authored the thread.Message ID: @.***>