search

shun-zheng / Doc2EDAG

MIT License
340 stars 72 forks source link

SentencePosEncoder.forward中batch_pos_emb和batch_elem_emb的shape不一致的问题 #20

Open AI-confused opened 3 years ago

AI-confused commented 3 years ago

4901608707329_ pic 多卡运行的时候，token_id会被分散到不同的卡里运行，造成sentence_batch改变,但是batch_pos_emb依然是原来的sentence_batch，相加的过程就会出bug，请问下如何解决，谢谢

logolemon commented 1 year ago

请问您解决这个问题了吗 我也是卡到这个地方了