Closed orangerfun closed 4 years ago
bug描述 word2vec章节二次采样处感觉弄错了吧
def discard(idx): return random.uniform(0, 1) < 1 - math.sqrt(1e-4 / counter[idx_to_token[idx]] * num_tokens)
是不是改改成
return random.uniform(0, 1) < 1-math.sqrt(t/(counter[idx_to_token[idx]]/num_tokens))
版本信息 pytorch: torchvision: torchtext: ...
a / b * c = a / (b / c)
bug描述 word2vec章节二次采样处感觉弄错了吧
是不是改改成
版本信息 pytorch: torchvision: torchtext: ...