649453932 / Chinese-Text-Classification-Pytorch

中文文本分类,TextCNN,TextRNN,FastText,TextRCNN,BiLSTM_Attention,DPCNN,Transformer,基于pytorch,开箱即用。
MIT License
5.27k stars 1.23k forks source link

关于transformer #7

Closed rick-mondy closed 5 years ago

rick-mondy commented 5 years ago

您好,您的代码给了我很大帮助,关于transformer我想请教一下,一个[batch_size, seq_len, embed_size]的tensor经过transformer的encoder后还是[batch_size, seq_len, embed_size],然后可以在第二个维度上累加为[batch_size, embed_size],进行分类任务吗?