search

HarderThenHarder / transformers_tasks

⭐️ NLP Algorithms with transformers lib. Supporting Text-Classification, Text-Generation, Information-Extraction, Text-Matching, RLHF, SFT etc.
https://www.zhihu.com/column/c_1451236880973426688
2.12k stars 377 forks source link

生成式任务里所谓问答模型（Text-Generation, T5 Based）似乎更像是阅读理解任务 #10

Closed yaleimeng closed 1 year ago

yaleimeng commented 1 year ago

因为推理的时候还需要给一个问题和一段上下文。。跟抽取式任务也差不多，只不过答案是用模型自己的话复述。 而不像一般的问答任务那样只提供问题即可。

HarderThenHarder commented 1 year ago

Hi，很抱歉因为起名的原因让您有所误解。您说的没错，代码里的 answer_generation 任务更像是一个生成式的阅读理解任务。如果您希望训练一个单轮问答模型，您可以尝试使用 这里 的代码，将训练集替换为「问题」和「答案」的 pair。