Open wawaka1998 opened 3 years ago
我大幅度提高了batch_size,从之前的1直接提高到128,然而,我的两个3090半死不活的只用了6gb显存,cpu占用率倒是明显高了不少。而且每个batch_size训练的时间也低了很多倍,换算下来,训练速度并没有提高多少。
数据读取速度太慢了呢,你有用固态吗,多线程处理等,而且,tiny都不需要啥显卡呀。
我大幅度提高了batch_size,从之前的1直接提高到128,然而,我的两个3090半死不活的只用了6gb显存,cpu占用率倒是明显高了不少。而且每个batch_size训练的时间也低了很多倍,换算下来,训练速度并没有提高多少。