Z-yq / TensorflowASR

一个执着于让CPU\端侧-Model逼近GPU-Model性能的项目,CPU上的实时率(RTF)小于0.1
Apache License 2.0
461 stars 111 forks source link

语言模型训练太慢 #24

Closed zhaoyukoon closed 3 years ago

zhaoyukoon commented 3 years ago

我计划基于 TensorflowASR 训练一个语言模型。使用的数据规模在1000万句。使用默认的 train_lm.py,且按照说明把 BERT 模型也下载了下来。

按照目前的速度,一个 epoch要的时间要上百天。 我使用的是 3090Ti 单卡。

Z-yq commented 3 years ago

已优化数据加载