Closed Jiangchenglin521 closed 1 year ago
您好，这边发现在用提供的generate.py文件中do sample是没设置的，用的beam search。我这边用你们训的那个3个Ep的checkpoint-4000的模型，打开了do_sample，生成序列完全是在随机生成答非所问的序列。但是如果使用脚本默认配置，就能得到正确答案。请问这个还是参数的问题么？是因为训练中有做了什么特殊处理么。使用的示例是：世界上最高的山峰是？
您好，这边发现在用提供的generate.py文件中do sample是没设置的，用的beam search。我这边用你们训的那个3个Ep的checkpoint-4000的模型，打开了do_sample，生成序列完全是在随机生成答非所问的序列。但是如果使用脚本默认配置，就能得到正确答案。请问这个还是参数的问题么？是因为训练中有做了什么特殊处理么。使用的示例是：世界上最高的山峰是？