有没有不用Slurm跑剪枝的方法？

princeton-nlp / LLM-Shearing

[ICLR 2024] Sheared LLaMA: Accelerating Language Model Pre-training via Structured Pruning

https://arxiv.org/abs/2310.06694

MIT License

533 stars 39 forks source link

Closed Beatlesso closed 6 months ago

Beatlesso commented 6 months ago

我们实验室的服务器集群并没有安装Slurm，而安装配置Slurm貌似非常麻烦，有改成单机多卡跑的方法吗？此外，我们实验室只有4090，这个剪枝用两张或者四张4090可以跑起来吗？