OpenLLMAI / OpenRLHF

An Easy-to-use, Scalable and High-performance RLHF Framework (70B+ PPO Full Tuning & Iterative DPO & LoRA & Mixtral)
https://openrlhf.readthedocs.io/
Apache License 2.0
1.71k stars 160 forks source link

PPO加载完模型后卡在bundle_reservation_check_func这里 #331

Open lixsh6 opened 1 week ago

lixsh6 commented 1 week ago

可能是资源不够的问题,没定位到什么资源不够。 所有环境配置已经对齐到requirements.txt的版本。

image image
hijkzzz commented 1 week ago

试试这个 https://github.com/OpenLLMAI/OpenRLHF/tree/main/dockerfile 不行的话可能是卡数不够?