这要训练多少轮效果才好，感觉损失都好高，效果很差

ZhengkunTian / rnn-transducer

A Pytorch Implementation of Transducer Model for End-to-End Speech Recognition

231 stars 57 forks source link

Open ZephyrChenzf opened 4 years ago

ZephyrChenzf commented 4 years ago

这要训练多少轮效果才好，感觉损失都好高，效果很差

PeiyanFlying commented 4 years ago

这要训练多少轮效果才好，感觉损失都好高，效果很差

您好，我最近也在全力复现结果。会不会是提特征提的有问题呢？

PeiyanFlying commented 4 years ago

这要训练多少轮效果才好，感觉损失都好高，效果很差

您好，我最近也在全力复现结果。会不会是提特征提的有问题呢？

我这边的结果是loss一直维持在15%～20，没有下降的趋势。Validation开始的CER在35%。最后能到98%。所以，感觉状态越来越差。

PeiyanFlying commented 4 years ago

当然，我只是在train RNNT，没有进行pretrain +LM。

ZephyrChenzf commented 4 years ago

已经没用这个了，感觉效果不行

PeiyanFlying commented 4 years ago

已经没用这个了，感觉效果不行

谢谢前辈。请问您有什么公开的code或指导么？能否也推荐给我。

十分感谢。

tongjinle123 commented 4 years ago

transducer 我记得需要先训练ctc 差不多了再加上后面的语言模型

ZephyrChenzf commented 4 years ago

已经没用这个了，感觉效果不行

谢谢前辈。请问您有什么公开的code或指导么？能否也推荐给我。

十分感谢。我自己重写了一个transformer-transducer版本，不过不方便上传，你看看能不能复现吧

ZephyrChenzf commented 4 years ago

transducer 我记得需要先训练ctc 差不多了再加上后面的语言模型