4090显卡有办法跑这个项目吗？

liucongg / ChatGLM-Finetuning

基于ChatGLM-6B、ChatGLM2-6B、ChatGLM3-6B模型，进行下游具体任务微调，涉及Freeze、Lora、P-tuning、全参微调等

2.63k stars 292 forks source link

Open 2279072142 opened 11 months ago

2279072142 commented 11 months ago

1696663390056

liucongg commented 9 months ago

你这个是环境问题

gaojuntian commented 9 months ago

同问，我在4090预测跑不起来，爆显存了

Zdao032 commented 5 months ago

有办法，不加TensorRT的话，就是两张