Open yaxxm opened 5 months ago
作者您好,为什么测试数据集中也要有mask,我的理解是文本预训练的时候mask可以增强对方面项的辨别。那到测试的数据时候为什么还需要mask掉呢。还是说在测试的时候有对数据的mask部分有特殊处理呢
你好,这不是mask,这是数据的一种格式,这个字符在输入的时候会替换成后面相应的实体进行编码,这样表示只是为了指示实体的位置,方便处理输出标签
作者您好 我还想问问,选择这五个预训练模型的依据是什么呢,你是怎么挑选到这五个预训练模型的呢
是一个模型,不同的优化任务
作者您好,为什么测试数据集中也要有mask,我的理解是文本预训练的时候mask可以增强对方面项的辨别。那到测试的数据时候为什么还需要mask掉呢。还是说在测试的时候有对数据的mask部分有特殊处理呢