search

shibing624 / MedicalGPT

MedicalGPT: Training Your Own Medical GPT Model with ChatGPT Training Pipeline. 训练医疗大模型，实现了包括增量预训练(PT)、有监督微调(SFT)、RLHF、DPO、ORPO。
Apache License 2.0
2.94k stars 451 forks source link

ValueError: Please specify target_modules in peft_config #379

Closed lyj-newbie closed 1 week ago

lyj-newbie commented 1 month ago
微信图片_20240531104049

在训练PPO的时候出现的这个问题如何解决，切换了peft不同的版本也没用。

shibing624 commented 1 month ago

指定target modules就可以。 参考 https://github.com/shibing624/MedicalGPT/tree/main?tab=readme-ov-file#supported-models