Open alqbib opened 4 years ago
10.12 机器翻译一节初始化Vocab中加入'\<unk>',即: vocab = torchtext.vocab.Vocab(collections.Counter(all_tokens), specials=['\<unk>', PAD, BOS, EOS]) 这样结果的词序索引与原书相同,最后预测不在词典里的词时也不会报错.
10.12 机器翻译一节初始化Vocab中加入'\<unk>',即: vocab = torchtext.vocab.Vocab(collections.Counter(all_tokens), specials=['\<unk>', PAD, BOS, EOS]) 这样结果的词序索引与原书相同,最后预测不在词典里的词时也不会报错.