search

Tele-AI / Telechat

1.76k stars 96 forks source link

单机多卡全参微调，哪些型号的GPU可以适配？ #4

Open zhaoyuIBM opened 8 months ago

zhaoyuIBM commented 8 months ago

比如4090，24G显存，是否支持全参微调？

tkone2018 commented 8 months ago

请问是否开源pretrain脚本吗

ZiYu0427 commented 8 months ago

请问是否开源pretrain脚本吗

预训练代码，暂时不会开源，后面会进行评估，感谢反馈

liuxz0801 commented 8 months ago

目前微调适配了GPU 英伟达 A100 V100 A800