thuiar / MMSA

MMSA is a unified framework for Multimodal Sentiment Analysis.
MIT License
634 stars 104 forks source link

关于在sims和simsv2数据集上的复现结果问题 #103

Open hustcselwb opened 4 months ago

hustcselwb commented 4 months ago

请问一下为什么一些新的模型比如cenet,tetfn这些模型在sims和simsv2上的变现还不如以前很早的模型的结果呢,是和语言表示有关系吗?还有就是对于results中在sims和simsv2上的结果是作者自己复现的吗,论文中并没有给出相关模型在这两个数据集上的结果

Columbine21 commented 4 months ago

你好,仓库里面所有模型都是在相同环境下复现的结果(肯定是与原论文结果有一定差异)。

关于 tetfn 模型由于本身论文的仓库并没有开源,提供的复现模型效果仅供参考,如果模型结构与原论文有差异,可以直接issue我们或者pull request。 关于 cenet 模型,我们与原论文在使用的特征层上有差异(Feature transformation strategy 在集成的方法中没有采用,这种方法事实上可以加到任何方法上,为了公平对比,本仓库没有使用,但我们认为并不是主要影响),文本模态编码方式我们是用了bert(可能为主要原因,参考原论文中,mag-bert和mag-sentiLARE对比)。

如果同学认为能纠正、调试等手段改进复现效果。欢迎 issue / pull request 🙏

hustcselwb commented 4 months ago

好的,感谢您百忙之中抽空回答我的问题,您回复的很清楚,我想问您一下您在mosei数据集上的cenet的结果是不是使用的文本特征是sentiLARE提取的,所以分数会较高,因为cenet原论文也没有提供bert编码的效果。

AZYoung233 commented 1 week ago

我在cenet复现sims的结果的时候遇到了很大的问题,我跑出来的F1只有50多,但是对于MOSEI和MOSI上的表现又是正常的,请问你有遇到类似的问题吗