search

taishan1994 / pytorch_GlobalPointer_Ner

基于pytorch的GlobalPointer进行中文命名实体识别。
36 stars 3 forks source link

旋转位置编码的实现是不是有点问题 #2

Open yanwenjie1 opened 1 year ago

yanwenjie1 commented 1 year ago

qw:[batchsize, 150, 8, 64], kw:[batchsize, 150, 8, 64] 依次应该是 batch_size max_len len(labels) dim_embedding 但是RoPEPositionEncoding的forward实现的时候，默认-2是max_len，应该是-3才对，相对应的下面的乘法也不太对

yanwenjie1 commented 1 year ago

gp2解决了这个问题，请忽略我