对kdconv进行finetune对话出现知识错误

[jiangliqin]

对kdconv数据finetune后在验证集上loss=2.05 通过对明星、旅游景点、电影、歌曲等知识问答，会出现知识错误的现象，请问是finetune的epoch太少了吗（默认是3）

Usr >>> 看过春光乍泄这部影片吗？ Sys >>> 看过呀,这是一部上映于2014年的影片。 Usr >>> 听说过周润发这个人吗 Sys >>> 是的,他是一个美国人。 Usr >>> clear Clear Dialog Usr >>> 听说过周润发这个人吗 Sys >>> 是的,他是一个享誉全球的电影导演、演员、编剧。

[t1101675]

深度学习模型目前不太可能把所有的知识问题都做对，如果想进一步提升知识性的话可以尝试一些知识增强的方法

[winterfell2021]

深度学习模型目前不太可能把所有的知识问题都做对，如果想进一步提升知识性的话可以尝试一些知识增强的方法

hi，请问如果想引入 kdConv 中的知识图谱 finetune 模型，有什么建议吗～

[t1101675]

可以尝试 kdconv 原论文中使用的模型 https://arxiv.org/pdf/2004.04100.pdf ，将基座模型换成 eva 即可